-
直指NVIDIA命门!AMD MI350本周发布:推理能力暴增35倍
快科技6月11日消息,在ISC25大会上,AMD首席技术官Mark Papermaster透露,下一代 Instinct MI350 AI产品系列预计本周四推出,其推理能力将提升35倍,并且还有更多功能。 AMD并未透露MI350 AI加速器的具体细节,但...
-
为AI推理和专业工作站量身定制 英特尔锐炫Pro B60/B50专业显卡来了
5月19日,英特尔在Computex 2025上推出了为专业人士和开发者设计的全新图形处理器锐炫Pro B系列,包含锐炫Pro B60和锐炫Pro B50 GPU,搭载了为AI推理和专业工作站量身定制的配置,扩展了英特尔锐炫Pro产品系列。 ...
-
锐炫Pro B50/B60专业显卡发布:Intel第一次24GB显存 还有双GPU 48GB
快科技5月19日消息,早在2022年8月,羽翼未丰的Intel Arc锐炫显卡,就勇敢地进入了图形工作站专业领域,发布了锐炫Pro A30M/A40/A50等型号,开辟了新战场。 要知道,专业显卡对可靠性、稳定性、兼容性的要求远超...
-
体积锐减85%!联想推首款紧凑型AI推理服务器:墙壁、天花板都能挂
快科技3月4日消息,在MWC2025上,联想混合式AI解决方案ThinkEdge SE100正式亮相,这也是联想首款入门级AI推理服务器,其兼具成本效益、可持续性和可扩展性。 据介绍,ThinkEdge SE100成功弥合了客户端服务器与边...
-
AI推理 CPU的拿手好戏!细说AMD EPYC 9004的三大优势
近几年,生成式AI一浪高过一浪,对于各种AI大模型的训练、推理也提出了越来越苛刻的要求。 一般而言,推理工作不需要庞大的GPU加速器集群,更适合交给CPU处理器,尤其专门面向服务器和数据中心的CPU产品。 所谓推...
-
NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
此前有消息称,NVIDIA Blackwell架构的新一代GPU推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。 GB200 Grace Blackwell包括两颗B200 GP...
-
100%稳定!摩尔线程GPU千卡集群适配滴普科技大模型训练、推理
快科技5月29日消息,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程“夸娥”(KUAE)千卡智算集群与滴普企业大模型Deepexi v1.0已完成训练、推理适配,获得产品兼容互认证明。 基于摩...
-
国产x86!兆芯打造AI训练推理一体方案 双路64核心
快科技5月14日消息,兆芯与算能联合SOPHON.TEAM生态,基于自家处理器,构建了一套可高效落地的AI训练、推理一体化整体解决方案,可解决企业部署深度学习应用人力成本高、技术难度大、开发周期长、迭代能力差等难...
-
超越NVIDIA H100!训练快40% 推理快50%:Intel Gaudi3凭什么
北京时间4月9日晚间,Intel在美国召开了“Intel Vision 2024”大会,介绍了Intel在AI领域取得的成功,并发布了新一代的云端AI芯片Gaudi 3及第六代至强(Xeon)可扩展处理器,进一步拓展了Intel的AI产品...
-
拿CPU搞AI推理 谁给你的底气
大模型的训练阶段我们选择GPU,但到了推理阶段,我们果断把CPU加到了菜单上。 量子位在近期与众多行业人士交流过程中发现,他们中有很多人纷纷开始传递出上述的这种观点。 无独有偶,Hugging Face在官方优化教程...
-
揭秘AMD EPYC处理器的独门绝技:AI推理就问还有谁!
AI生命周期包括最重要的两个部分,一个是AI训练,一个是AI推理。 其中,AI训练就是让模型识别数据模式,是数据和处理最密集的部分,需要大规模的算力。 在这一阶段,往往优先使用大规模并行的GPU加速器或专用的AI...