刚完硬件刚软件 AMD确认AI软件3倍性能提升:CUDA之敌
快科技8月9日消息,在AI市场上NVIDIA占据了95%的份额,这不仅是他们的AI显卡硬件性能强大,还得益于CUDA的软件生态更完善,毕竟16年来积累了400多万开发者,这是NVIDIA最大的护城河。
AMD在AI市场上想抢占更多份额,除了明年推出性能40PFlops(4亿亿次每秒)的MI400加速卡之外,还要在软件生态上取得突破,这方面就得靠AMD的ROCm软件了,而且还是开源开放的生态。
今年6月份AMD官宣了最新的ROCm 7软件,专为性能、兼容性和灵活性而设计,在推理和训练方面提供了重大增强,支持许多开箱即用的最新AI模型,并将AMD开放生态系统从云扩展到边缘。
在日前的财报会议上,CEO苏姿丰也提到了ROCm 7的诸多优点,强调在这一财季中AMD取得了重大进展,提高了ROCm7的性能、易用性并扩大了其采用范围。
苏姿丰表示,我们发布了 ROCm7,对整个软件栈的每一层都进行了重大升级,与上一代相比,推理和训练性能提升了3倍以上,并增加了对大规模训练、分布式推理和低精度数据类型的支持。
为了加强与开发者的合作,AMD推出了 ROCm夜间构建版本,并扩大了即时计算基础设施的访问范围,包括推出了AMD首个开发者云,该云提供预配置的容器,可即时访问 AMD GPU。
在此前的发布会上,AMD还提供了ROCm7的实测结果,在Llama 3.1 70B模型上性能提升 3.2倍,Qwen2-72B上性能提升3.4倍,而DeepSeek R1性能提升3.8倍。
在训练任务上,Llama 2 70B、Llama 3.1 8B、Qwen 1.5 7B模型上平均性能提升3倍。
今年内ROCm7还会不断提升生态支持,加入对锐龙平台笔记本/工作站的支持,完整支持Linux系统,还会正式加入对Windows系统的支持,可以说之前备受开发者吐槽的问题正在逐步解决。
相关文章
- 8通道+64核CPU地狱级考验 芝奇DDR5内存冲上8400
- PCIe 6.0硬盘狂飙28GB/s:5年内都没戏 AMD/Inte
- 百亿补贴加码!蓝宝石AMD旗舰店整机大促助力超
- 功耗仅55W!AMD推出Radeon PRO W7400入门级工作
- AMD确认与微软合作定制芯片!Xbox主机、PC、掌
- AMD明年迎来关键一年:432GB HBM4显存AI卡正面
- AM5确认一板传三代!AMD良心了:AM6插槽2028年
- 暴打Intel!AMD CPU亚马逊德国七月销量占比77.6
- AMD入门显卡RX 7400终于要发布!配8GB GDDR6显
- 购买AMD Radeon RX 7650 GRE显卡:请认准这11大