英伟达发布Dynamo，号称“AI工厂的操作系统”

英伟达正式发布Dynamo，号称是“AI 工厂的操作系统”。Dynamo是一个“分布式推理服务库”。本质上，它是一个针对用户需求token而无法生产足够token之间问题的开源解决方案。黄仁勋展示了一张关于推理的图表，X轴显示用户每秒的Token数，Y轴显示工厂每秒的Token数。在Dynamo、Grace Blackwell NVLink72超级芯片的加持下，Blackwell相比Hopper可实现25倍的性能提升。而在推理模型中，Blackwell的性能是Hopper的40倍。黄仁勋还打趣道，有了上述最新技术加持，搭建AI工厂的厂商“买得越多、省得越多”。

本文源自金融界AI电报

相关文章：

刚刚，乐道艾铁成离职，蔚来老人沈斐接棒04-02

xAI收购X，马斯克“自救”暗度陈仓04-02

浑水也来锤了！Applovin 真是 “有缝的蛋”？03-31

海豚电台上线 川观新闻全新音频栏目伴你听见世界的温度03-31

公安辟谣：支付宝碰一下支付安全 不信谣不传谣03-19

英伟达发布Dynamo，号称“AI工厂的操作系统”03-19

腻子ph值多少01-31

苏州哪里买碗最多01-28