288GB海量内存!AMD官宣下代GPU加速卡Instinct MI355X:3nm CNDA4全新架构

时间:2024-10-11 06:00:20分类:显卡浏览:9

快科技10月11日美国旧金山现场报道:除了正式发布升级版Instinct MI325X GPU加速卡之外,AMD还公布了全新下一代Instinct MI350系列的首款产品“Instinct MI355X”,并披露了一些规格和性能数据。

MI355X 将于2025年下半年上市上市,距此还有近一年的时间。

288GB海量内存!AMD官宣下代GPU加速卡Instinct  MI355X:3nm  CNDA4全新架构

MI350系列将首次升级为台积电3nm工艺,首次采用CDNA 4架构,首次引入FP6、FP4浮点数据类型,搭配内存还是HBM3E但是容量高达288GB。具体功耗尚未透露,但MI325X最高达到了1000W。 AMD还透露,MI355X将遵循行业趋势(NVIDIA B200 1000W、GB200 1700W),因此必然大幅突破1000W。

288GB海量内存!AMD官宣下代GPU加速卡Instinct  MI355X:3nm  CNDA4全新架构

FP6和FP4都是浮点数据格式,分别代表6位、4位精度。即只能用6位或4位数字来表示一个数字。与FP16和F8相比,精度大大降低,但数据处理量也大大减少,适合大型模型的量化,特别是大型语言模型和混合专家模型。

如果不需要太高的精度而想要速度,FP6和FP4非常适合。

MI355X上的FP6、FP4浮点性能都是9.2 PFlops(每秒9200万亿次运算),同时还将FP16、FP8性能都提升了80,分别达到2.3 PFlops、4.6 PFlops。NVIDIA Blackwell GPU还引入了FP6和FP4精度,但性能更高,分别达到20 PFlops和40 PFlops。

288GB海量内存!AMD官宣下代GPU加速卡Instinct  MI355X:3nm  CNDA4全新架构

单卡多达288GB HBM3E内存确实是无可匹敌,同时带宽高达8TB/s。比MI325X多了1/8和1/3,比目前市面上的MI300X足足提升了50%。

比较竞品,Blackwell B200也只有192GB HBM3E,但带宽同样做到了8TB/s。288GB海量内存!AMD官宣下代GPU加速卡Instinct  MI355X:3nm  CNDA4全新架构

MI355X同样支持单平台八卡,这样就有总计2.3TB HBME内存、64TB/s带宽,性能更是高达FP16 18.5 PFlops、FP8 37 PFlops、FP6/FP4 74 PFlops。明年下半年也会上市。

288GB海量内存!AMD官宣下代GPU加速卡Instinct  MI355X:3nm  CNDA4全新架构

Instinct系列的性能提升无疑是一次飞跃。每一代都有新的面貌,跨代对比更是令人惊叹。

与MI300X相比,MI355X的FP16性能提升了7.4倍,HBM容量提升了1.5倍,可处理的模型参数大小也从7140亿增加到4.2万亿,整整6倍。

288GB海量内存!AMD官宣下代GPU加速卡Instinct  MI355X:3nm  CNDA4全新架构

展望未来,2026年将推出再下一代的Instinct MI400系列,基于再下一代的CDNA架构(CDNA 5?)的规格和性能必将再上一个台阶。