中国电信第一个验证1024卡分布式计算:120公里、80万兆网络

时间:2024-09-03 07:01:01分类:显卡浏览:8

近日,中国电信统一组织、中国电信研究院、中国电信北京公司、天翼云公司共同参与。在中国电信现网上,基于800G C+L技术,为1024卡规模的分布式集群提供大容量带宽,实现了120公里、千亿参数大模型的分布式训练,性能达到集中训练的95以上。这验证了大带宽、高可靠、高效率光传输网络的可行性,为智能计算互联构建坚实的基础,这在全球尚属首次。

当智能计算集群规模达到千卡、万卡时,所需带宽往往高达数百Tbits甚至Pbits以上。因此,光传输系统的大带宽、高可靠性、高效率保证了分布式训练。高计算效率的关键。

针对数据传输中大带宽的问题,中国电信采用高阶调制格式的单波长800G技术,以提高频谱效率,配合当前的业界热点的C+L波段技术,实现了超大传输带宽。在中国电信武清、润泽机房之间,采用华为的传输设备,通过多次环回,构建了大带宽互联的智算验证网,距离达到120千米。完成了链路错误、波长故障、光纤故障等异常测试实验,解决数据传输中的高可靠性问题。

结果表明,800G业务波次的中断将导致计算效率下降40%以上,超过100毫秒的光纤故障将导致计算效率大幅下降甚至训练中断。

采用WSON重路由恢复技术,在两点间将重路由恢复时间控制在50ms以内,可保证分布式智算业务的高可靠互联,最大程度释放算效。针对传输链路高效问题,中国电信提出分钟级波长动态拆建解决方案,实现计算与网络协同分时复用,有效提高网络资源利用率。

此次验证为跨地区、跨层级、跨实体的算力高可靠协同调度奠定了基础,标志着中国电信“云网融合”工作再上新台阶。

中国电信第一个验证1024卡分布式计算:120公里、80万兆网络