网易首页 > 网易号 > 正文 申请入驻

NVIDIA最新1200亿参数模型完成智能体任务比竞争对手快5倍

0
分享至

NVIDIA 新款 Nemotron Bolt 模型将自主智能体带到本地计算机,其中一款变体设计为可装入 24GB 内存。



NVIDIA 发布三款开放 AI 模型,旨在将自主智能体带入更多计算环境。该产品阵容以 Nemotron 3.5 Super VL 为核心,这是一款为复杂任务打造的 1200 亿参数模型。两个较小变体面向希望直接在本地硬件上运行 AI 智能体的用户。

此次发布扩展了 NVIDIA 推动可定制 AI 的努力,使组织能在自有基础设施上运行 AI。它也解决了开发者面临的一个实际挑战:无需将每个请求都发送到云服务,也能运行能力强大的智能体。

Super VL 面向复杂工作流

Nemotron 3.5 Super VL 处理的任务不仅仅是生成文本。它能解读视觉信息,并遵循指令,同时使用外部工具完成多步骤工作流。

NVIDIA 声称,该模型完成任务的速度比同级最接近的竞争对手快 5 倍。公司还表示,尽管其参数规模约为 NVIDIA 最大推理模型的五分之一,其准确率仍接近后者。

这些能力可帮助企业自动化涉及长时间研究或详细文档分析的工作。开发者可以用专有信息进一步训练该模型,以提高其在专业任务上的表现。

认识 NVIDIA Nemotron 3.5 Super VL
我们的新开放模型将推理和工具使用与文本、图像、文档和视频理解相结合,面向长时间运行的 AI 智能体。
总参数 1200 亿,激活 120 亿
pic.twitter.com/BcbED05qSG
— NVIDIA AI (@NVIDIAAI) 2026 年 10 月 15 日

多家组织已开始定制 Super VL。Scale AI 将其适配用于 Skydance 的供应商信用金融智能体。它还参与了一个单独版本的开发,用于 EY 的并购尽职调查智能体。

AfterQuery 为 Hebbia 的信贷协议分析定制了该模型。其他项目聚焦网络安全,AI21 和 Alice 在其中研究抗攻击能力。Mercor 还对该模型进行了后训练,以用于 APEX-SWE 基准测试涵盖的编码任务。

Bolt 将智能体带到设备端

Nemotron 3.5 Bolt 面向内存更有限的硬件。其两个变体提供了不同方法,可在不依赖远程基础设施的情况下运行 AI 智能体。

较大的 Bolt 74B-A9B 使用原生 2 比特量化,以装入 24GB 内存。这种占用空间使兼容系统能够将该模型与其他应用一起运行。

开发者可将其用于本地编码辅助,或将网络研究委托给智能体框架。NVIDIA 称该模型在 PinchBench 上位列同类开放模型第一。它还称其在 BrowseComp 上的开放模型中排名第二。

Bolt E4B 的内存占用小得多,仅为 4GB。NVIDIA 将其设计用于需要在本地设备上快速响应的对话式智能体。潜在应用包括语音助手和互动角色。

该模型还面向在 NVIDIA Jetson 硬件上运行的物理 AI 系统。Bolt E4B 计划于 10 月 23 日推出。较大的 Bolt 模型已经可用。

开放模型提供更多控制

NVIDIA 以开放权重发布 Super VL,并提供配套训练材料。其训练过程覆盖约 26 万亿个 token。后训练涉及约 380 万个样本,随后在数十个环境中进行强化学习。

组织可通过 NVIDIA NeMo 和基于 Python 的流水线来适配该模型。本地部署还使他们能更好地控制敏感信息,具体取决于其基础设施和配置。

Super VL 可通过 Hugging Face、OpenRouter 和 ModelScope 获取。NVIDIA 还通过 NIM 提供该模型,这是其用于部署生产级 AI 服务的平台。Bolt 74B-A9B 已在 Hugging Face 上提供。开发者可以使用 Ollama 或 LM Studio 等工具运行它。

更大的问题是,这些模型在基准测试之外的表现如何。它们的吸引力最终将取决于本地硬件能否在不过度占用内存、不牺牲响应速度的情况下提供可靠结果。

如果朋友们喜欢,敬请关注“知新了了”!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
10月20日俄乌最新:重大进展

10月20日俄乌最新:重大进展

西楼饮月
2026-10-20 21:36:25
1937年王明回国欲挑战毛主席权威,康生断言:你不是对手

1937年王明回国欲挑战毛主席权威,康生断言:你不是对手

沆砀无垠
2026-10-21 10:15:03
内鬼出现!蒋万安大势已去,国民党反复打一张牌,沈伯洋有望胜出

内鬼出现!蒋万安大势已去,国民党反复打一张牌,沈伯洋有望胜出

观锐器
2026-10-20 15:23:20
一票之差,莎拉惊险过关,菲防长支持率仅1%,小马科斯已无计可施

一票之差,莎拉惊险过关,菲防长支持率仅1%,小马科斯已无计可施

云上乌托邦
2026-10-20 18:05:26
贾国龙之后,轮到袁记云饺回答什么是“现包饺子”了

贾国龙之后,轮到袁记云饺回答什么是“现包饺子”了

牛锅巴小钒
2026-10-21 00:12:07
危险已经到来,中国不得不面对!40年来从未出现的四种情况已到来

危险已经到来,中国不得不面对!40年来从未出现的四种情况已到来

乌克兰小静
2026-10-21 07:36:29
最邪恶的实验:6女4男船上共渡100天,失去法律约束,结果如何?

最邪恶的实验:6女4男船上共渡100天,失去法律约束,结果如何?

泪满过眼
2026-10-20 07:44:02
官宣,CBA新赛季首个被裁外援,仅打2场,场均2分,领走6位数工资

官宣,CBA新赛季首个被裁外援,仅打2场,场均2分,领走6位数工资

喜欢体育的猫
2026-10-21 07:32:33
苏州“发明”的招工骗局:一套被全国复制的“人肉套利”模式

苏州“发明”的招工骗局:一套被全国复制的“人肉套利”模式

社会日日鲜
2026-10-20 12:46:19
美国打死都没想到!早些年,大量外逃的中国腐败和经济犯罪嫌疑人,把美国当成了最稳妥的藏身窝点

美国打死都没想到!早些年,大量外逃的中国腐败和经济犯罪嫌疑人,把美国当成了最稳妥的藏身窝点

扶苏聊历史
2026-09-21 16:57:44
中美舰队再次对阵?美军大秀肌肉,万万没想到,055大驱强势压阵

中美舰队再次对阵?美军大秀肌肉,万万没想到,055大驱强势压阵

小嵩
2026-10-21 07:30:43
老人想买特斯拉被字体劝退!马斯克秒回:加 马上加

老人想买特斯拉被字体劝退!马斯克秒回:加 马上加

快科技
2026-10-19 11:28:11
李小冉官宣离婚后,曝前夫婚内出轨 有私生子,她隐忍2年做了3件

李小冉官宣离婚后,曝前夫婚内出轨 有私生子,她隐忍2年做了3件

兵鉴史
2026-10-21 01:49:10
披旭日旗留学生为何激起公愤?还有哪些劣迹?

披旭日旗留学生为何激起公愤?还有哪些劣迹?

上游新闻
2026-10-20 13:40:12
AI需求持续爆发!10月前20天,韩国芯片出口额飙升222.5%

AI需求持续爆发!10月前20天,韩国芯片出口额飙升222.5%

财联社
2026-10-21 12:55:03
李楠太过分了,比许利民还狠!连1秒钟时间都不给范子铭,人家可是顶薪

李楠太过分了,比许利民还狠!连1秒钟时间都不给范子铭,人家可是顶薪

萌兰聊个球
2026-10-21 07:39:24
现在的失业潮比90年代更危险,是因为农村这条退路没了

现在的失业潮比90年代更危险,是因为农村这条退路没了

文青大叔说
2026-10-21 08:45:52
党史上最复杂离奇的悬案,毛主席被困扰18年,其中究竟有何隐情?

党史上最复杂离奇的悬案,毛主席被困扰18年,其中究竟有何隐情?

猫眼观史
2024-11-19 09:10:02
“罗斯福”号航母将派往中东 美在中东将增兵约万人

“罗斯福”号航母将派往中东 美在中东将增兵约万人

新京报
2026-10-21 13:49:08
惊人的母子定律:一个男孩的命,看他的母亲就知道

惊人的母子定律:一个男孩的命,看他的母亲就知道

户外阿毽
2026-10-21 07:28:06
2026-10-21 15:23:00
知新了了
知新了了
专注于新知、科普的传播
6700文章数 2295关注度
往期回顾 全部

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

头条要闻

牛弹琴:菲政客嚣张炒作要驱逐中国大使 中方没有客气

头条要闻

牛弹琴:菲政客嚣张炒作要驱逐中国大使 中方没有客气

体育要闻

“我,对得起天津足球!”

娱乐要闻

刘恺威官宣女友,和杨幂一个天一个地

财经要闻

日赚近5亿的长鑫,股价却跌掉了15000亿

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

游戏
家居
本地
艺术
教育

全副武装的狗狗潜水员带你深潜腐化海洋!《汪洋大盗哥》全新试玩版上线

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

艺术要闻

《灵魂同声》跨界当代艺术展在南京药艺术馆启幕,十余位中外艺术家以多元媒介叩问当代精神

教育要闻

#成都七中副校长靠AI开发校园系统 不会写代码,成都七中初中学校副校长一个暑假用AI“搓”出智慧校园,把20多个系统串成一张网。领办公用品不扑空、签到自动统计,老师...

无障碍浏览 进入关怀版