Nvidia推新Dynamo软件,计划将DeepSeek的AI速度提升30倍

新软件的发布背景

在3月18日的 GTC 大会上,Nvidia 首席执行官黄仁勋宣布了一项令人振奋的计划,旨在通过新推出的软件 Dynamo,将 DeepSeek 的人工智能处理速度提高30倍。此举是 Nvidia 对 DeepSeek 公司 R1人工智能程序引发的市场动荡的回应。DeepSeek 的技术能够显著降低每个查询所需的计算量,导致投资者对 Nvidia 的未来前景表示担忧。

QQ_1742352534028.png

Dynamo软件的功能与优势

Nvidia 的 Dynamo 软件能够将 AI 推理任务分配到多达1000个 GPU 上并行处理,极大地提升了查询吞吐量。黄仁勋表示,使用新的 Blackwell 芯片,Dynamo 能够在相同的架构下提供30倍的处理能力。这种能力的提升使得 AI 数据中心可以在每秒内处理更多的 tokens,从而提高整体收入。

经济效益

具体来说,Dynamo 软件能够以每百万个 tokens $1的价格,提升每秒的处理量。这意味着,服务提供商可以选择同时处理更多客户的查询,或是为单一用户提供更强大的服务,从而收取更高的费用。Nvidia 称这种高性能的 AI 服务为 “AI 工厂”

DeepSeek R1版本的更新

为了进一步增强 DeepSeek 的性能,Nvidia 还在 HuggingFace 上发布了经过调整的 DeepSeek R1 版本。这一版本使用了更少的计算位数,即 “FP4”,从而在不显著降低模型准确性的前提下,大幅提升了性能。

其他重磅发布

除了 Dynamo,Nvidia 还推出了最新版本的 Blackwell 芯片 “Ultra”,提升了内存容量和整体性能。此外,Nvidia 还正式发布了供 AI 开发者使用的小型个人计算机 DGX Spark,并更新了 DGX Station 桌面计算机的配置。

多样化的产品展示

在此次大会上,Nvidia 还展示了其他多项新产品和合作项目,包括改进的网络交换机和适用于医疗机器人的软件模型,展示了 Nvidia 在 AI 和计算领域的持续创新能力。

划重点:

  • 🌟 Nvidia 推出 Dynamo 软件,将 DeepSeek AI 的处理速度提升30倍。
  • 💰 通过 Dynamo,服务提供商能够更高效地处理客户查询,提高收入。
  • 🖥️ 新版 Blackwell 芯片 “Ultra” 和 DGX Spark 计算机也在大会上正式发布。

​Nvidia推新Dynamo软件,计划将DeepSeek的AI速度提升30倍

YiAI团队

YiAI团队

AI大模型技术专家团队

YiAI团队是一支专注于AI大模型应用的技术团队,由来自国内外知名科技公司的AI专家组成。 我们致力于为企业和开发者提供高质量、低成本的AI大模型API服务,涵盖文本生成、对话交互、 内容理解、知识问答等多个领域。团队拥有丰富的大规模语言模型开发和应用经验,深入理解 企业在AI落地过程中的实际需求和技术痛点。