英伟达 Dynamo 发表:号称“发表”AI 工厂操作系统”

03-20 07:16

IT 之家 3 月 19 今天,英伟达正式发布消息。 Dynamo,号称是"AI 工厂的操作系统"。


Dynamo 它是一个“分布式推理服务库”。本质上,它是一个针对用户需求的 token 而且很难生产足够的产品 token 开源解决方案中存在的问题。


黄仁勋展示了一张关于推理的图表,X 每秒都显示客户的轴 Token 数,Y 轴线显示工厂每秒 Token 数。


在 Dynamo、Grace Blackwell NVLink72 在芯片的加持下,Blackwell 相比 Hopper 可实现 25 性能提升倍


而且在推理模型中,Blackwell 的性能是 Hopper 的 40 倍


IT 家里人注意到,黄仁勋还开玩笑说,有了上面提到的最新技术加持,建设 AI 工厂制造商"买得越多,省得越多",总的来说就是掏钱吧。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com