美光宣布单颗36GB HBM3E内存:惊人带宽1.2TB/s

时间:2024-09-10 18:00:03分类:内存浏览:8

快科技讯9月10日美光官方宣布,已经完成12-Hi堆栈的新一代HBM3E高带宽内存,单颗容量达36GB,比之前的8-Hi 24GB增大了足足一半。将应用于顶级AI和HPC计算产品,如NVIDIA H200、B200等加速卡。单卡即可轻松运行Llama2等700亿参数的大型模型,不再需要频繁调用CPU,减少延迟,提高数据处理效率。

美光12-Hi 36GB HBM3E内存还有着9.2Gbps的超高速率,单颗就能提供超过1.2TB/s的惊人带宽,而且功耗比8-Hi版本更低。台积电CoWoS封装技术制造,与NVIDIA H100、H200等常用技术可以轻松相互匹配。

支持完全可编程MBIST(内存内置自测试),可全速模拟系统负载,便于快速测试验证,加快上市速度。

美光表示,12-Hi HBM3E 已提供给主要合作伙伴进行验证。

美光宣布单颗36GB  HBM3E内存:惊人带宽1.2TB/s