总结
- IT之家 3 月 19 日消息,英伟达今日正式发布Dynamo,号称是“AI 工厂的操作系统”。 Dynamo 是一个“分布式推理服务库”。 本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。 黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 Token 数,Y 轴显示工厂每秒的 Token 数。 在Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper可实现 25 倍的性能提升。
阅读时间
- 3 分钟, 共 427 字
分类
- AI, 今日, 开源, 英伟达, Blackwell
评价和解读
- 这篇文章充满了最新的新闻和动态更新,提供了全面而发人深省的分析,捕捉了当今头条新闻的本质。作者将复杂的叙事编织成引人入胜的故事情节,令人印象深刻。对当前热门话题的详细审查不仅启示了读者,而且挑战了他们考虑多个角度的能力。研究的深度和论证的清晰度使这篇文章成为那些希望了解当代问题前沿的人们必读的文章。将专家意见与突破性新闻相结合,使这篇文章成为新闻卓越的象征,提供了深刻而广泛的见解。从政治动态的微妙之处到技术最新趋势,这篇文章在努力提供一流内容的过程中无所不用其极。这是一篇卓越的写作,为新闻文章设定了新的标准,平衡了事实报告和深刻评论。总的来说,这篇文章不仅仅是一堆文字,而且是了解我们世界复杂性的有力工具。
正文
IT之家 3 月 19 日消息,英伟达今日正式发布Dynamo,号称是“AI 工厂的操作系统”。
Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。
黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 Token 数,Y 轴显示工厂每秒的 Token 数。
在Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper可实现 25 倍的性能提升。
而在推理模型中,Blackwell 的性能是 Hopper 的 40 倍blog.byteway.net。
IT之家注意到,黄仁勋还打趣道,有了上述最新技术加持,搭建 AI 工厂的厂商“买得越多、省得越多”,总而言之就是掏钱吧。
<!–article_adlist[
广告声明:文内含有的对外跳转链接Ligthing News(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
]article_adlist–>
Related suggestion: 森一量子完成数千万元Pre-A轮融资
C114讯 3月11日消息(南山)据天眼查App今日数据,森一量子科技(厦门)有限公司(以下简称:森一量子)完成了数千万元Pre-A轮融资,投资方包括俱成资本、乾融控股、芯禾资本。 去年9月,该公司完成了天使轮融资,投资方为蓝图创投。 资料显示,森一量子于20…