AMD跑大模型终于Yes！MI300X对比NVIDIA H100/200毫不逊色

快科技讯9 月5 日消息，据媒体报道，在AI算力领域，NVIDIA长期占据主导地位，但AMD的最新GPU产品MI300X在性能上终于展现出了与NVIDIA H100/200相媲美的实力。The Information 发布的评测报告显示，AMD 的Instinct MI300X GPU 在AI 推理基准测试中的性能与NVIDIA 的H100 GPU 相当，显示AMD 在高性能AI 计算领域的表现。

该评估报告提供来自MLCommons 的数据。在测试中，评估了AMD的MI300X GPU和NVIDIA的H100和H200 GPU。

结果显示在AI推理任务中，MI300X GPU的性能与H100 GPU不相上下，加上对GPU成本及系统总成本的估计，说MI300X GPU能媲美H100和H200 GPU也不为过。。值得注意的是，这些测试仅使用了meta 的Llama 2 70B。尽管测试存在局限性，但这一结果仍然表明AMD的MI300X GPU在处理大型AI模型方面具有强大的潜力。

业内人士也看好AMD在AI领域的发展前景。 Transformer作者、Cohere联合创始人Aidan Gomez表示，相信AMD、Tranium等平台很快就会进入主流市场。

继续浏览有关 Instinct MI300X AMD AI 的文章

打赏 分享

微信扫一扫：分享

微信里点“发现”，扫一下

二维码便可将本文分享至朋友圈。

• 请小编喝杯咖啡吧！