世界最强NPU!AMD锐龙AI 300系列发布:AI PC焕然一新

时间:2024-06-04 20:13:56分类:CPU浏览:6

快科技6月3日报道,AMD于2023年初发布的Ryzen 7040系列(代号Pheonix)是全球首款集成独立NPU AI引擎的x86处理器。它基于全新设计的XDNA架构,计算能力约为10TOPS(每秒)。 10万亿次浮点运算),加上CPU和GPU的整体计算能力约为33TOPS,开创了AI PC的新时代。

2023年底的Ryzen 8040系列(代号Hawk Point),NPU AI算力一举提升60%,达到16TOPS左右,整体算力也提升到39TOPS。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

如今,Strix Point终于闪亮登场,正式命名为“锐龙AI 300系列”,以全新的架构和性能的又一次飞跃,成为下一代AI PC的基石。

CPU是全新的Zen5架构,GPU是升级版的RDNA3.5架构,NPU是全新的XDNA2架构,号称“面向下代AI PC/Copilot+ PC的世界一流处理器”。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

Ryzen AI 300系列仅推出两款型号,均定位高端市场。

其中“锐龙AI 9 HX 370”是顶级旗舰,CPU部分拥有12核心24线程,多年来首次在这一定位上提供更多核心比Ryzen 8040系列提升了多达1/3。

二级缓存依然是每个核心1MB,总容量自然增加到12MB

三级缓存终于打破了16MB的“禁锢”,增加了足足一半来到24MB。

最高频率是5.1GHz,和现在差不多了。

GPU部分不仅升级架构,CU单元数量也从12个增至16个,命名为“Radeon 890M”。

NPU部分算力来到了50TOPS,增加了2倍有余,问鼎最强NPU的宝座。

“锐龙AI 9 365”也是高端型号,10核心20线程,二级缓存为10MB,三级缓存仍为24MB,最高频率为5.0GHz

NPU算力还是50TOPS,GPU部分也还是Radeon 890M。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

说了这么多,大家也看到了,这一代AMD移动处理器采用了新的命名方式。它不再是简单的四位数,而是将AI直接加入品牌名,地位之高前所未有。

9 HX和9都代表产品级别,但请注意,这里的HX与过去高端游戏笔记本处理器(例如Ryzen 9 7945HX)所使用的HX并不相同。

数字编号采用300系列,代表从NPU单元的角度来看,这已经是第三代AI PC处理器。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

上图是第一代和第二代XDNA NPU架构的对比图。可以看出,整体布局基本相同,但规模却大大扩大。

AI Tile(初代叫AIE Tile)也就是核心的AI计算引擎模块,从之前的20个增加到32个,加上它自己的增强功能。

Mem Tile也就是本地内存模块,从原来的5个增加到8个,可以更好的配合更大规模的本地调度和计算。

此外,用于互连的交叉总线从普通的Data Fabric升级为Zen/RDNA家族上普遍存在的Infinity Fabric,具有更高的传输带宽和效率。

AMD声称,XDNA2 NPU的计算能力提升了多达5倍,多任务并行能力翻了一番,能效也提升了最多2倍。

这里所说的5倍提升来自于Llama 2 70亿参数大模型的响应速度。从启动到获得第一个令牌,Ryzen AI 9 HX 370 的性能高达Ryzen 9 8940HS 的5 倍。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

另外很重要的一点是,XDNA2首发引入了全新的Block FP16浮点精度,也就是BFloat16、BF16。在CPU和GPU上已经很常见了,但是用在NPU上还是第一次。

传统的FP8浮点格式性能较高,但精度不足。 FP16浮点格式精度较高,但性能稍差。两者融合BF16可以在精度、性能上达到较好的平衡,灵活性也更高。

同时,大多数AI应用都使用16位精度,因此使用BF16,不再需要量化为8位精度,减少了转换步骤,提高了执行效率。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

高通骁龙X Elite NPU的算力为45TOPS,Intel即将推出的下一代酷睿Ultra Lunar Lake NPU算力同样是45TOPS,锐龙AI 300系列则一举超越二者,成为当今最强NPU。

而苹果方面,M4 NPU的算力仅为38TOPS,低于Windows阵营Copilot+ PC 40TOPS的最低算力要求门槛。

随着算力的大幅提升,NPU的应用将不再局限于一些持续低负载的场景(比如视频会议),而是将拥有更多的可能性。一方面,可以在更多场景中部分取代CPU、GPU,以更高的能效执行AI运算将大大提高笔记本的电池寿命。

另一方面,更强大的NPU匹配更强大的CPU和GPU,可以在更多场景中部署端侧AI,进一步摆脱对云侧的依赖,最大好处就是可以避免隐私泄露和安全威胁。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

当然,无论硬件算力有多强大,仍然需要生态应用的配合。

作为AI PC先行者,AMD 2024年内的ISV合作厂商将超过150家拥有Adobe、微软、Topaz Labs等世界一流厂商,以及百川智能、钉钉、无问芯、有道等国内知名企业,未来不可限量。

当然,新一代AI PC最大的亮点在于与Windows结合,可以打造全新的Copilot+体验,比如历史回忆、视频会议实时录音和翻译、协同创作等。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

最后还有一些官方的性能对比可供参考。

与Snapdragon X Elite相比,Ryzen AI 9 HX 370在日常办公、生产力创造、多任务、图形等方面遥遥领先,尤其是图形计算。骁龙在移动端所向披靡,但在AMD面前还是个小弟。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

与Intel目前最好的酷睿Ultra 9 185H相比,无论是日常应用还是游戏,都已经不在一个水平上。这取决于下一代Lunar Lake的性能。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

苹果这边就更不让人印象深刻了,尤其是多任务处理和3D图形性能,完全不在一个水平上。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

锐龙AI 300系列的笔记本将从7月份起陆续上市,目前已有100多款设计,涵盖宏碁、华硕、戴尔、惠普、联想、微星等各大主要OEM品牌。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

华硕将在台北电脑展上推出一系列搭载Ryzen AI 300 系列处理器的笔记本电脑,包括16 英寸Zenbook S、14/15/16 英寸Vivobook S 以及轻薄本。有16英寸和13英寸的ProArt P16/X13,游戏笔记本电脑包括16英寸的ROG幻系列和14/16英寸的天选系列(TUF GAMING A14/A16)。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

微星首发三款机型均为16英寸大屏机型,包括面向高端商务办公的Summit A16 AI+、轻薄全能游戏的绝影A16 AI+以及主打游戏的Monarch A16 AI+。关于超薄的商业与创作。

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

芯片图赏:

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新

世界最强NPU!AMD锐龙AI  300系列发布:AI  PC焕然一新