AMD发布全新计算加速卡Alveo V80:自带32GB BHM2E、800G网络

时间:2024-06-04 20:12:49分类:服务器浏览:7

快科技6月2日讯近日,AMD发布了计算加速卡“Alveo V80”,专为内存密集型工作负载提供灵活的加速,也是AMD第一款大规模市场化的FPGA加速卡产品。

拥有丰富的应用领域和场景,如基因组学、分子动力学、传感器处理等高性能计算、欺诈检测、公共事业、医学分析、供应链分析等数据分析、风险分析、算法交易、Web3应用程序等金融科技、数据包监控、防火墙等网络安全存储、推荐引擎、大语言模型等AI计算

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

简单来说,它和AMD Instinct这样的产品都是计算加速器,但它们并不负责加速计算能力,而是专门用来解决大数据集计算负载中经常存在的内存和网络瓶颈,打通整个计算链。

这也是AMD独特的优势产品,也是其全栈计算解决方案的重要组成部分。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

这是传统大数据集工作负载处理流程的示意图。可见有两个地方很容易成为瓶颈。

首先是记忆。无论是DDR4还是DDR5,带宽实际上都是有限的,无法与PCIe相比。往往不能满足CPU、FPGA等各种芯片和计算传输的需求。

第二是网络。传统的解决方案往往使用固定的网络接口和带宽,一旦需要超大规模的数据传输,这些网络接口和带宽可能就不够用了。

此外,整个工作流程也缺乏完善的安全防护。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

AMD Alveo V80加速卡就是为了解决此类问题而设计的。

首先,将板载的独立内存升级为整合HBM具有超高带宽以及与主芯片紧密集成的优势。它已广泛应用于HPC/AI加速器中。

接下来是支持从10G到800G的广泛网络连接,可以根据需要选择组合,满足灵活的计算。

此外,整个过程中有一个安全连接,这对于敏感应用程序来说非常关键。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

这是AMD Alveo V80加速卡的整体设计和规格。它是一款全高、3/4长度的扩展卡,高约111毫米,长约234毫米。

主芯片采用7nm工艺制造,是一颗Versal HBM XCV80自适应SoC,集成了多达260万个LUT可编程逻辑单元、10848个DSP计算逻辑单元,还整合封装了32GB HBM2E高带宽内存,带宽高达820GB/s。

如有需要,您还可以通过板载的DDR4 DIMM标准插槽将内存扩展至32GB。

网络采用QSFP56光纤模块,支持最高800G带宽,可实时处理传入的海量数据,支持4X200G、4X10G/25G/40G/50G等不同工作模式。可以通过以太网扩展到数百个节点,形成计算集群。

同时,内置400G加密引擎、600G以太网硬块,加上FPGA的硬件灵活性,可以实现线速数据包检测和AI支持的异常检测,确保网络安全。

该卡还配备了MCIO扩展端口,可以直接连接NVMe存储并完成板对板模拟开发工作。

系统连接总线支持1个PCIe 4.0 x16或2个PCIe 5.0 x8。

整卡电气功耗300W,热设计功耗190W,可以采用被动散热,热设计功耗水平还可根据组件和服务器进行定制。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

Versal HBM自适应SoC芯片整体架构图可见两个Cortex-A72应用处理器核心、两个Cortex-R5F实时处理器核心、可编程逻辑引擎、DPS引擎等核心组件,其中DSP性能比上代提升了2-3倍。

它强化了与基础设施的连接,包括DDR内存控制器、DMA PCIe控制器、可编程片上网络等,使其集成度更高、连接更方便。

另外还有网络部分,集成了多个高带宽核心,包括一个100G以太网核心、一个600G以太网核心、一个600G Interlaken核心,以及一个400G加密引擎。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

传统架构的缓存级别是固定的,数据的读写必须非常“规律”。一旦出现不规律的访问,效率就会大大降低。

新的自适应计算架构非常灵活,即在计算附近分配内存,可以大大降低延迟和功耗,并且可以灵活适应定制的数据类型和数据迁移。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

预构建的强化数据中心基础设施连接可轻松访问板载扩展内存、以太网、MCIO 端口和高性能EPYC 处理器。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

相比于传统的GPU加速器,Alveo V80这样的网络附接加速卡自然不是用来完全取代的,但在很多应用中也有自己独特的优势。

特别是GPU加速卡必须连接CPU,扩展数量有很大限制。网络附加加速卡更加灵活,包括低延迟传输到网络,绕过CPU和加速器之间的PCIe连接瓶颈,无需独立网卡,最大限度地提高加速卡和计算密度。

同时可以对传入的网络数据进行灵活管理,包括按需限速、在线加密、数据包监控等。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

这是与上一代Alveo U55C 的性能比较:

内存带宽提升至1.8倍,逻辑单元密度提升至2倍,网络带宽提升至4倍(200G变为800G),PCIe带宽提升至2倍(PCIe 4.0升级为PCIe 5.0) )。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

Alveo V80 加速卡应用案例澳大利亚国家级研究机构CSIRO(联邦科学与工业研究组织)参与建设的世界最大射电天文天线阵列通过处理无线电波来研究早期宇宙及其演化。它拥有多达131,000根天线,连续传感器传输带宽高达15Tbps。

该阵列目前配备了420个用于波束赋形和相关器的Alveo U55C加速卡,需要21台服务器和4个机架,逐渐无法满足日益复杂的负载需求。

为此,CSIRO升级到了Alveo V80,只需要140块加速卡、14台服务器,分别减少了2/3、1/3,性能提升了2-3倍,但同时功耗也降低了多达55,三年TCO成本还可降低最多达21。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

又如,针对具有压缩和数据分析功能的服务器存储节点推出Alveo V80,可减少61%的服务器空间、44%的服务器成本和55%的功耗。三年TCO总成本可以节省多达56。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

网络安全和金融技术也有用例。 Alveo V80加速卡可以带来更高的价值,这里不再讨论。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

Alveo V80 主要面向传统FPGA 软件和硬件开发人员,他们可以继续利用AMD Vivado 设计套件和Alveo Versal 示例设计(AVED)(可在GitHub 上获取)。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络

Alveo V80 现已量产发货,建议零售价9495美元,折合人民币近6.9万元。

AMD发布全新计算加速卡Alveo  V80:自带32GB  BHM2E、800G网络