老黄发布了个物理AI时代的终极超级计算机,究竟厉害在哪?
现在看起来还有点呆滞的AI人形机器人可能很快就会变得思维敏捷、动作麻利起来了。老黄前几天放了个重磅炸弹,发布了新一代机器人计算机——NVIDIA Jetson AGX Thor开发者套件及其核心模块NVIDIA Jetson T5000。
Jetson AGX Thor在计算性能上大幅超越前代Jetson Orin。Thor基于最新的NVIDIA Blackwell GPU架构,拥有2560个CUDA核心和96个第五代张量核心,并搭载14核Arm Neoverse-V3AE CPU,提供多达2070 TFLOPS(FP4精度,稀疏计算)的AI算力,峰值功耗约130W。
更高的算力和效率意味着Thor能够在边缘设备上轻松运行以往需要服务器级别的设备才能胜任的大模型,例如大型Transformer和复杂深度学习模型。执行实时视觉、语言、决策等AI推理任务的响应速度更快了,可能以后的人形机器人的反应就不会那么的呆滞了吧,可能就连跌倒也会变少,因为它们能进行更即时的多模态推理和控制。
作为开发者探索物理AI和机器人前沿应用的利器,Jetson AGX Thor开发者套件提供了一个功能完备且性能强大的硬件平台。
主要规格一览:
-
核心模块: Jetson T5000
-
AI 性能: 2070 TFLOPS (稀疏 FP4) 1035 TFLOPS (稠密 FP4 | 稀疏 FP8 | 稀疏 INT8) 517 TFLOPs (稠密 FP8 | 稀疏 FP16)
-
GPU: 拥有2560个CUDA核心和96个第五代Tensor核心的NVIDIA Blackwell架构GPU
-
CPU: 14核Arm® Neoverse®-V3AE 64位CPU,共享16MB L3缓存
-
内存: 128GB 256位 LPDDR5X,带宽高达273 GB/s
-
存储: 板载1TB NVMe SSD,并支持通过PCIe和USB 3.2扩展
-
网络: 1x 5GBe RJ45 连接器, 1x QSFP28 (4x 25GbE),并支持802.11ax Wi-Fi 6E,满足多传感器低延迟数据传输需求
-
功耗: 可在40W至130W之间灵活配置
定价方面嘛,3499美元!作为强大的边缘算力来说,其实还好吧。这个Jetson AGX Thor开发者套件是有CPU、GPU和内存的,目前组装一台包含RTX5090游戏显卡的电脑也要四五万了吧。
当然,Jetson AGX Thor是开发者套件,对于量产产品来说可以基于Jetson AGX Thor开发者套件里的NVIDIA Jetson T5000模组,其也是作为独立的量产级模块产品供应市场的,起订价格为2999美元,1000套起订!
在发布会上,老黄将Jetson Thor形容为“物理AI时代的终极超级计算机”,旨在帮助全球数百万开发者构建能够与物理世界进行智能交互的机器人系统。所以硬件上,Jetson Thor是为机器人系统的开发进行高度优化的,提供了丰富的高速接口和专用加速单元,以处理大量并发的传感器数据流。
nVidia的AI生态护城河并不仅仅是性能爆炸的芯片,还有强大的软件生态的支持。Jetson Thor系列完全兼容NVIDIA从云到边缘的完整软件栈,为开发者提供了无缝的开发体验。包括:
-
NVIDIA Isaac™: 用于机器人仿真、开发和部署的端到端平台。
-
Project GR00T: 专为人形机器人打造的基础模型,推动通用机器人技术的发展。
-
NVIDIA Metropolis: 用于构建视觉AI智能体的强大框架。
-
NVIDIA Holoscan: 用于实时传感器处理的软件平台。
此外,Jetson Thor能够以实时性能支持包括Llama、DeepSeek、Qwen等在内的主流大语言模型(LLM)和视觉语言模型(VLM),让任何开发者都能在边缘端进行模型实验与推理。
模型家族 | 模型 | Jetson AGX Thor (输出 tokens/秒) | Jetson AGX Orin (输出 tokens/秒) | 速度提升 |
---|---|---|---|---|
LLM | ||||
Llama | Llama 3.1 8B | 150.8 | 112.33 | 1.34 |
Llama 3.3 70B | 12.64 | 7.38 | 1.71 | |
Qwen | Qwen3-30B-A3B | 226.42 | 76.69 | 2.95 |
Qwen3-32B | 79.1 | 16.84 | 4.70 | |
DeepSeek | DeepSeek-R1-Distill-Qwen-7B | 304.76 | 180.41 | 1.69 |
DeepSeek-R1-Distill-Qwen-32B | 82.63 | 16.96 | 4.87 | |
VLM | ||||
Qwen | Qwen2.5-VL-3B | 356.86 | 216 | 1.65 |
Qwen2.5-VL-7B | 252 | 154.02 | 1.64 | |
Llama | Llama 3.2 11B Vision | 69.63 | 44.22 | 1.57 |
VLA | ||||
GR00T | GR00T N1 | 46.7 | 18.5 | 2.52 |
GR00T N1.5 | 41.5 | 15.2 | 2.74 |
Jetson Thor 和 Jetson AGX Orin 上的基准测试对比表
作为人工智能领域的绝对领导者,英伟达的每一个动向都牵动着市场的神经。在发布了像Jetson AGX Thor这样的革命性产品后,其市场信心也得到了进一步巩固:截至25日美股收盘,nVidia股价上涨1.02%至179.81美元,市值稳居4.39万亿美元。接下来,万众瞩目的第二财季财报即将发布,这份财报不仅是检验nVidia自身增长动能的试金石,更将被视为整个AI产业赛道的发展风向标。
参考来源
Introducing NVIDIA Jetson Thor, the Ultimate Platform for Physical AI
❤️ 如果这篇文章对您有帮助,欢迎打赏支持
扫描上方二维码,用微信打赏