国内最大智算中心正式投用:每秒690亿亿次浮点运算 可训练万亿参数大模型
快科技8月31日消息,日前,由中国移动承建的国内运营商最大单集群智算中心在哈尔滨正式运营。据悉,这个智能计算中心具有国内网络设备单集群算力最大、网络规模最大的特点。
单集群智算中心把所有AI加速卡打造成1个集群,用以支持千万亿级参数的大模型进行训练。该集群智能计算中心采用先进的智能计算网络技术,将数万颗GPU芯片像“搭积木”一样拼接在一起,大大提高了GPU节点之间的通信效率,缩短了20%的数据训练完成时间,从而形成超级计算集群。
这个单集群智算中心共有超过1.8万张AI加速卡,运算能力达到每秒690亿亿次浮点运算,能满足万亿参数的大模型训练要求。据项目负责人介绍,该计算中心相当于每秒超过300万台高性能个人电脑的计算能力。单个簇相当于一个阵型,减少了相互传输时间,在阵型内完成整个计算。