2023-06-27 19:29:32
(资料图片仅供参考)
生成式人工智能的爆发，在带来算力上的挑战之余，也对网络提出了更高要求。特别是，GPU集群越大，产生的额外通信损耗越多。大带宽、高利用率、信息无损，是AI大模型时代网络面临的核心挑战。对此，云厂商腾讯云做了专门应对。
6月26日，腾讯云首次对外完整披露自研星脉高性能计算网络：其具备业界最高的3.2T通信带宽，可提升40%的GPU利用率、节省30%~60%的模型训练成本，进而能为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群，可支持10万卡的超大计算规模。
“星脉网络是为大模型而生。”腾讯云副总裁王亚晨介绍说，它所提供的大带宽、高利用率以及零丢包的高性能网络服务，将助力算力瓶颈的突破，进一步释放AI潜能，提升企业大模型的训练效率，直接在云上加速大模型技术的迭代升级和落地应用。
一般而言，千亿、万亿参数规模的大模型，训练过程中通信占比最大可达50%，传统低速网络的带宽远远无法支撑。同时，传统网络协议容易导致网络拥塞、高延时和丢包，而仅0.1%的网络丢包就可能导致50%的算力损失，最终造成算力资源的严重浪费。针对于此，王亚晨说，基于自研能力，腾讯云在交换机、通信协议、通信库以及运营系统等方面，进行了软硬一体的自研和创新，率先推出星脉网络。
在硬件方面，星脉网络基于腾讯的网络研发平台，采用全自研设备构建互联底座，实现自动化部署和配置。 在软件方面，腾讯云自研的TiTa网络协议，采用先进的拥塞控制和管理技术，能够实时监测并调整网络拥塞，满足大量服务器节点之间的通信需求，确保数据交换流畅、延时低，实现高负载下的零丢包，使集群通信效率达90%以上。
此外，腾讯云还为星脉网络设计了高性能集合通信库TCCL，融入定制化解决方案，使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道，可以避免因网络问题导致的训练中断等问题，让通信时延降低40%。腾讯云新一代HCC高性能计算集群正是基于星脉高性能网络打造，其算力性能较前代提升3倍。
