网易首页 > 网易号 > 正文 申请入驻

NVIDIA最新1200亿参数模型完成智能体任务比竞争对手快5倍

0
分享至

NVIDIA 新款 Nemotron Bolt 模型将自主智能体带到本地计算机,其中一款变体设计为可装入 24GB 内存。



NVIDIA 发布三款开放 AI 模型,旨在将自主智能体带入更多计算环境。该产品阵容以 Nemotron 3.5 Super VL 为核心,这是一款为复杂任务打造的 1200 亿参数模型。两个较小变体面向希望直接在本地硬件上运行 AI 智能体的用户。

此次发布扩展了 NVIDIA 推动可定制 AI 的努力,使组织能在自有基础设施上运行 AI。它也解决了开发者面临的一个实际挑战:无需将每个请求都发送到云服务,也能运行能力强大的智能体。

Super VL 面向复杂工作流

Nemotron 3.5 Super VL 处理的任务不仅仅是生成文本。它能解读视觉信息,并遵循指令,同时使用外部工具完成多步骤工作流。

NVIDIA 声称,该模型完成任务的速度比同级最接近的竞争对手快 5 倍。公司还表示,尽管其参数规模约为 NVIDIA 最大推理模型的五分之一,其准确率仍接近后者。

这些能力可帮助企业自动化涉及长时间研究或详细文档分析的工作。开发者可以用专有信息进一步训练该模型,以提高其在专业任务上的表现。

认识 NVIDIA Nemotron 3.5 Super VL
我们的新开放模型将推理和工具使用与文本、图像、文档和视频理解相结合,面向长时间运行的 AI 智能体。
总参数 1200 亿,激活 120 亿
pic.twitter.com/BcbED05qSG
— NVIDIA AI (@NVIDIAAI) 2026 年 10 月 15 日

多家组织已开始定制 Super VL。Scale AI 将其适配用于 Skydance 的供应商信用金融智能体。它还参与了一个单独版本的开发,用于 EY 的并购尽职调查智能体。

AfterQuery 为 Hebbia 的信贷协议分析定制了该模型。其他项目聚焦网络安全,AI21 和 Alice 在其中研究抗攻击能力。Mercor 还对该模型进行了后训练,以用于 APEX-SWE 基准测试涵盖的编码任务。

Bolt 将智能体带到设备端

Nemotron 3.5 Bolt 面向内存更有限的硬件。其两个变体提供了不同方法,可在不依赖远程基础设施的情况下运行 AI 智能体。

较大的 Bolt 74B-A9B 使用原生 2 比特量化,以装入 24GB 内存。这种占用空间使兼容系统能够将该模型与其他应用一起运行。

开发者可将其用于本地编码辅助,或将网络研究委托给智能体框架。NVIDIA 称该模型在 PinchBench 上位列同类开放模型第一。它还称其在 BrowseComp 上的开放模型中排名第二。

Bolt E4B 的内存占用小得多,仅为 4GB。NVIDIA 将其设计用于需要在本地设备上快速响应的对话式智能体。潜在应用包括语音助手和互动角色。

该模型还面向在 NVIDIA Jetson 硬件上运行的物理 AI 系统。Bolt E4B 计划于 10 月 23 日推出。较大的 Bolt 模型已经可用。

开放模型提供更多控制

NVIDIA 以开放权重发布 Super VL,并提供配套训练材料。其训练过程覆盖约 26 万亿个 token。后训练涉及约 380 万个样本,随后在数十个环境中进行强化学习。

组织可通过 NVIDIA NeMo 和基于 Python 的流水线来适配该模型。本地部署还使他们能更好地控制敏感信息,具体取决于其基础设施和配置。

Super VL 可通过 Hugging Face、OpenRouter 和 ModelScope 获取。NVIDIA 还通过 NIM 提供该模型,这是其用于部署生产级 AI 服务的平台。Bolt 74B-A9B 已在 Hugging Face 上提供。开发者可以使用 Ollama 或 LM Studio 等工具运行它。

更大的问题是,这些模型在基准测试之外的表现如何。它们的吸引力最终将取决于本地硬件能否在不过度占用内存、不牺牲响应速度的情况下提供可靠结果。

如果朋友们喜欢,敬请关注“知新了了”!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
内鬼出现!蒋万安大势已去,国民党反复打一张牌,沈伯洋有望胜出

内鬼出现!蒋万安大势已去,国民党反复打一张牌,沈伯洋有望胜出

观锐器
2026-10-20 15:23:20
10月20日俄乌最新:重大进展

10月20日俄乌最新:重大进展

西楼饮月
2026-10-20 21:36:25
52岁刘恺威新恋情曝光,与小20岁黎纪君十指紧扣逛街甜似初恋

52岁刘恺威新恋情曝光,与小20岁黎纪君十指紧扣逛街甜似初恋

开开森森
2026-10-20 09:26:14
“小天才手表”热搜第一,被指封闭社交倒逼家长购买,客服:不支持直接添加华为、小米等品牌手表为好友,家长配套APP无法查看好友圈

“小天才手表”热搜第一,被指封闭社交倒逼家长购买,客服:不支持直接添加华为、小米等品牌手表为好友,家长配套APP无法查看好友圈

海峡网
2026-10-20 23:17:09
科学周刊|高半米,重2.2公斤!霸王滇菌是怎么长到这么大的?大风新闻专访微生物研究专家

科学周刊|高半米,重2.2公斤!霸王滇菌是怎么长到这么大的?大风新闻专访微生物研究专家

大风新闻
2026-10-20 19:30:21
男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

张晓磊
2026-10-18 11:58:47
一票之差,莎拉惊险过关,菲防长支持率仅1%,小马科斯已无计可施

一票之差,莎拉惊险过关,菲防长支持率仅1%,小马科斯已无计可施

云上乌托邦
2026-10-20 18:05:26
蒋万安、沈伯洋辩论将开战!最新民调跌破眼镜,台北人反应曝!

蒋万安、沈伯洋辩论将开战!最新民调跌破眼镜,台北人反应曝!

故事终将光明磊落
2026-10-20 12:08:09
半场仅打6分钟就3犯,尼克斯球迷社媒吐槽唐斯

半场仅打6分钟就3犯,尼克斯球迷社媒吐槽唐斯

体坛观察猿
2026-10-21 09:15:38
奚梦瑶重返T台,大腿肉松垮,走路哆嗦表情谄媚,对比刘雯差太远

奚梦瑶重返T台,大腿肉松垮,走路哆嗦表情谄媚,对比刘雯差太远

卿羽飞本尊
2026-10-19 19:15:03
不出所料,印度首都新德里或将不适合人类居住!连蚊子都消失不见

不出所料,印度首都新德里或将不适合人类居住!连蚊子都消失不见

小兰聊历史
2026-10-20 19:45:17
CBA速递,广东陈老板下狠手,欲裁掉阿祖布伊克,南京同曦成为第一支换外援的球队

CBA速递,广东陈老板下狠手,欲裁掉阿祖布伊克,南京同曦成为第一支换外援的球队

体坛小快灵
2026-10-21 07:39:12
台湾艺人江宏恩力挺沈伯洋,曾在大陆发展多年,主演过《我的丑娘》

台湾艺人江宏恩力挺沈伯洋,曾在大陆发展多年,主演过《我的丑娘》

金牛传声
2026-10-20 10:22:22
篮协大洗牌!中国篮协启动换届,郭振明离任,四大候选谁能上位?

篮协大洗牌!中国篮协启动换届,郭振明离任,四大候选谁能上位?

十夏九漓
2026-10-20 22:06:06
美国新闻周刊封面炸了!五人穿红军装骑单车,白宫彻底坐不住了

美国新闻周刊封面炸了!五人穿红军装骑单车,白宫彻底坐不住了

麓谷隐士
2026-10-20 00:10:04
iPhoneDuo神话破灭!第一批受害者出现了

iPhoneDuo神话破灭!第一批受害者出现了

互联网品牌官
2026-10-20 18:53:24
德转26年身价涨幅最高阵容:迪奥曼德暴涨7500万,奥利塞在列

德转26年身价涨幅最高阵容:迪奥曼德暴涨7500万,奥利塞在列

懂球帝
2026-10-20 23:21:45
流浪宠物爱心博主感染罕见真菌病逝,年仅27岁,丈夫:妻子在ICU抢救了22天,她随时带着猫狗粮,走到哪里看到流浪猫狗都会喂

流浪宠物爱心博主感染罕见真菌病逝,年仅27岁,丈夫:妻子在ICU抢救了22天,她随时带着猫狗粮,走到哪里看到流浪猫狗都会喂

芒果都市
2026-10-20 15:15:51
一妈妈穿太辣和青春期儿子合影遭网友怒批:儿大避母都不懂吗?

一妈妈穿太辣和青春期儿子合影遭网友怒批:儿大避母都不懂吗?

观世记
2026-10-16 16:45:45
蒋万安6选区全都大幅落后沈伯洋,王世坚:合乎情理,意料之中

蒋万安6选区全都大幅落后沈伯洋,王世坚:合乎情理,意料之中

金牛传声
2026-10-20 13:26:54
2026-10-21 09:43:00
知新了了
知新了了
专注于新知、科普的传播
6692文章数 2294关注度
往期回顾 全部

科技要闻

马斯克确认SpaceX与特斯拉讨论合并

头条要闻

牛弹琴:菲政客嚣张炒作要驱逐中国大使 中方没有客气

头条要闻

牛弹琴:菲政客嚣张炒作要驱逐中国大使 中方没有客气

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

日赚近5亿的长鑫,股价却跌掉了15000亿

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

艺术
家居
健康
亲子
军事航空

艺术要闻

谁敢信?63岁大爷的油画竟被选进美院教材,质感强到像要溢出屏幕!

家居要闻

2026建博会(广州) 公装联探展交流活动

痘痘能根治吗?皮肤科医生说实话

亲子要闻

少年向前跑

军事要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

无障碍浏览 进入关怀版