英伟达发布Jetson Thor机器人芯片:显存高达128GB
快科技8月26日消息,英伟达正式发布专为物理AI及人形机器人设计的新一代计算平台——NVIDIA Jetson Thor,其被首席执行官黄仁勋称为“开启物理AI与通用机器人时代的终极超级计算机”。
Jetson Thor集成Blackwell架构GPU、14核Arm Neoverse中央处理器,并配备128GB显存,显存带宽达到273 GB/s。
在FP4和FP8精度下,其AI算力分别高达2070 TFLOPS和1035 TFLOPS,可高效在边缘侧加速生成式AI及大型Transformer模型的推理与运行。
该芯片针对多AI任务流进行了专门优化,致力于推动视觉智能体和复杂机器人系统的发展。与上一代Jetson Orin相比,Jetson Thor在AI计算性能上实现7.5倍提升,能效提高3.5倍,CPU性能增长3.1倍,I/O吞吐量更是大幅提升10倍。相较十年前的产品,其AI总体性能增长高达7000倍。
Jetson Thor全面兼容英伟达从云到边缘的软件栈,支持多种主流AI框架,并可与多家企业的生成式大模型配合使用,包括字节跳动、DeepSeek、阿里巴巴Qwen、谷歌Gemini、meta、Mistral AI、OpenAI及Physical Intelligence(π)等。
此外,该平台还能够与英伟达Isaac机器人平台、GR00T人形机器人基础模型、Metropolis视觉AI平台以及Holoscan实时传感处理系统无缝集成。
在实时控制方面,Jetson Thor表现出卓越性能:可并行处理16路传感器输入,运行Llama 3B和Qwen 2.5 VL 3B模型时,生成首个token的时间在200毫秒以内,后续每token生成仅需50毫秒,即每秒可输出超过25个token,响应能力较前代显著提升。