英特尔Guadi 3价格曝光:对华特供版有望仅为英伟达H20一半!

时间:2024-06-08 14:00:31分类:显卡浏览:9

6月7日消息,虽然目前NVIDIA在AI加速芯片市场占据主导地位,占据90%以上的市场份额,但NVIDIA AI加速芯片的供应瓶颈和高昂的价格也让不少客户望而却步。沮丧的。批评。

对此,AMD和英特尔也在不断推出性价比更高的AI加速芯片来争夺市场份额。据最新披露的数据显示,英特尔新推出的 Guadi 3 的价格仅为15,650美元左右,只有英伟达H100 80G版本价格的一半左右。

英特尔Guadi  3价格曝光:对华特供版有望仅为英伟达H20一半!

资料显示,Gaudi 3 将基于台积电5nm 工艺打造,拥有8 个矩阵数学引擎、64 个张量核心、96MB SRAM(每Tile 48MB,提供总带宽12.8 TB/s)和128 GB HBM2e 内存、16 个PCIe 5.0 通道和24 个200GbE 链路。

计算核心周围是八个HBM2e 内存堆栈,总容量为128 GB,带宽为3.7 TBps。

根据Intel官方公布的数据,Gaudi 3在流行的大语言模型(LLM)训练速度上平均比NVIDIA H100快40%;在热门大型机型的推理能效表现方面,例如NVIDIA H100领先50%。

Intel Gaudi 3和NVIDIA H100具有相同的节点数量,相关大型模型训练时间最多快1.7倍。其中,LLAMA2 70亿参数比H100有1.5倍优势,LLAMA2 130亿参数优势高达1.7倍。GPT-3 拥有1750 亿个参数,具有1.4 倍的优势。在大模型推理速度方面,Gaudi 3 平均比H100 快1.5 倍,最高可达4 倍。

英特尔Guadi  3价格曝光:对华特供版有望仅为英伟达H20一半!

英特尔首席执行官帕特基辛格在Computex 2024展会上表示,其至强处理器和Gaudi系列加速器不仅具有高性能,而且整体成本还不到其他平台的三分之一。这两种产品也可以集成到一个系统中。整体平台也比其他竞争对手的解决方案更具竞争力。

目前,Intel Gaudi 3已上市,并且与戴尔、慧与科技、联想、美超威、华硕、鸿海、技嘉、英业达、广达和纬创展开合作。

根据Tirias Research分析师Jim McGregor公布的最新数据,英特尔集成8个Gaudi 2芯片的加速器售价为6.5万美元,集成8个Gaudi 3芯片的加速器售价为12.5万美元。

这也意味着单个Gaudi 2芯片的成本约为8,125美元,而单个Gaudi 3芯片的成本约为15,650美元。当然,这是批量购买时的价格,对于大批量购买,英特尔可能会提供进一步的折扣。

相比之下,Nvidia 目前热销的H100 80GB 加速卡售价约为3 万美元。

汇丰银行预计,基于Blackwell 架构的Nvidia“入门级”下一代B100 GPU 的平均售价(ASP)将在30,000 美元至35,000 美元之间,与目前的H100 价格类似(H100 将进一步降低) B100推出后的价格)。

功能更强大的GB200 集成了一个Grace CPU 和两个B200 GPU,预计售价在60,000 美元到70,000 美元之间。然而,值得注意的是,这些只是分析师的估计,实际价格可能会更高。

显然,英特尔最新的 Guadi 3不仅性能优于英伟达H100 80G,价格更是仅只有其一半左右,这个价格显然还是很有吸引力的。

如果与英伟达专供中国的AI加速芯片H20和华为的Ascend 910B相比,英特尔Gaudi 3更具性价比优势。

此前消息显示,AI算力不足英伟达H100 15%的H20批量售价已降至10万元左右(约合13800美元),而华为Ascend 910B售价约为12万元人民币(约合13800美元)。 (总计16,556 美元)。

当然,由于美国出口限制的存在,Intel Gaudi3无法直接销往中国。

不过根据之前曝光的消息,英特尔也准备对华推出“特供版”的Gaudi3,AI性能似乎只有原版的Gaudi3的不到10%,但即便如此应该还是比NVIDIA H20更好。毕竟Intel Gaudi3的128GB HBM显存容量更大(NVIDIA H20 HBM容量为96 GB)。

对于AI芯片来说,AI算力固然重要,但更大的HBM容量带来的优势也不容小觑。此前的分析数据显示,拥有更大HBM容量的NVIDIA H20在大多数大型模型推理场景中的表现均优于NVIDIA H100。

基于此,我们不难推测,HBM容量更大的Intel中国特别版Gaudi3整体性能会比Nvidia H20更好,而且Gaudi3特别版的价格也预计会更低。

参考NVIDIA H20的定价,其价格仅为H100的一半左右。如果Gaudi3中国特别版的价格仅为原版的一半的话,那么售价约为7825美元,也仅为NVIDIA H20原价(约15000美元)的一半左右。

不过,以上Gaudi3特别版的价格只是猜测。毕竟还没有在国内上市,但是价格肯定会比NVIDIA H20低一些。这意味着NVIDIA H20不仅将面临Ascend 910B的竞争,还将面临Intel中国专用版Gaudi3的强劲竞争,可谓“压力重重”。