返回行业动态
智能体与应用

英伟达扩展 Nemotron 开源家族:120B 多模态 Super VL 与 24GB 本地智能体模型 Bolt

英伟达 10 月 15 日发布 Nemotron 3.5 Super VL 与两款边缘模型。Super VL 为开源 120B-A12B 多模态模型,官方称在同级中任务完成最快、精度最高,吞吐最高达同类最佳模型的 5 倍;Bolt 74B-A9B 用原生 2 比特量化压进 24GB 显存,专为在 RTX/DGX Spark 上跑本地智能体设计;Bolt E4B 4GB 将于 10 月 23 日推出。三款模型均开放权重、数据集与训练配方,埃森哲之外的 Atlassian、CrowdStrike、Salesforce 等宣布接入或后训练。性能排序均为厂方自测数据。

来源:NVIDIA 官方博客:Open From Data Center to Desktop — NVIDIA Expands Nemotron Family原标题:Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models查看原文
深夜研发工位上的一台轻薄高性能笔记本侧影,机身侧沿散热鳍片与青色指示灯点阵发光,远处成排工位延伸至落地窗外城市灯火

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

英伟达 10 月 15 日一次放出三款开源模型,覆盖从数据中心到边缘的智能体部署档位。旗舰是 Nemotron 3.5 Super VL:1200 亿总参数、120 亿激活的稀疏 MoE 多模态模型,主打指令跟随、工具调用、多步业务流程与视觉理解。官方称其在 Artificial Analysis 智能指数榜单上,吞吐最高可达同级模型的 5 倍,精度与该厂商最大推理模型相当,而参数只有约五分之一。

面向终端的两款是:Bolt 74B-A9B 24GB,740 亿总参数、90 亿激活,靠原生 2 比特量化把权重压进 24GB,用于在 RTX/DGX Spark 上本地跑智能体;Bolt E4B 4GB 针对 GeForce RTX、Jetson 的对话与物理智能体,10 月 23 日推出。Super VL 与 Bolt 74B-A9B 即日可用。

  • 授权与开放度:权重、数据集与训练配方开放,企业可在自有基础设施上后训练与部署
  • 运行时支持:Bolt 74B-A9B 支持 llama.cpp、vLLM、Ollama、Unsloth、LM Studio,也可被 Hermes、OpenClaw 等智能体直接调用
  • 推理栈:NVIDIA NIM 提供两周一次刷新的生产级微服务;配合 NVIDIA Dynamo 官方称可服务多 8 倍用户、延迟降低 85%
  • 硬件节奏:Bolt 面向 10 月 16 日开售的 RTX Spark 笔记本,同时支持 GeForce RTX PC、DGX Spark、DGX Station 与 RTX PRO 工作站

企业侧的实际动作

比参数更值得关注的是生态名单。英伟达称已有数十家机构在自有数据、工具、策略与流程上后训练 Super VL:Scale AI 为 Skydance 的供应商信用金融智能体、为 EY 的并购尽调智能体做后训练;AfterQuery 为 Hebbia 定制信贷协议分析;AI21 与 Alice 面向网络安全攻防韧性;Mercor 基于 APEX-SWE 基准训练编码智能体;Ramp 用于财务文档理解,另有多家机构用于科研检索、医疗理赔与收入周期管理。

平台侧,Atlassian 用它做 Jira、Confluence 的跨应用智能体检索;CrowdStrike 将其定制为企业安全中的自动化蓝队;Salesforce 用它驱动政府工作流的数字化智能体;Dassault Systèmes 用于工程设计与仿真。对采购方而言,这份名单的意义在于:模型是否可被企业自行后训练、是否能在自有环境中留下数据,正在成为选型的前置条件,而不是加分项。

不确定之处

  • 全部性能与吞吐对比均为厂方自测。官方博文未附基准表,模型卡中 Bolt 在 AA-Omniscience 准确率一项落后于 Qwen3.6-35B-A3B 与更小的 Gemma4 26B-A4B,非幻觉得分也低于同门 Lightning
  • Bolt 74B-A9B 的 24GB 是「能跑起来」的内存口径,不等于笔记本端一定达到可用速度;模型卡标注上下文上限 256K
  • 「同级最快/最准」缺乏第三方在同一硬件、同一运行时下的复现,采购前应自建场景评测
  • Super VL 的 120B 体量在企业私有化部署中仍需要相当规模的加速卡预算,端到端成本待核算

从产业含义看,本次发布延续了一个明确趋势:开源权重模型的竞争前线,正从「旗舰谁能打」转向「同一家族能否覆盖服务器到笔记本的全部部署档位」,并配套统一的安全沙箱与路由层(英伟达同期推进 OpenShell 与开源模型路由库 Switchyard)。对企业来说,这降低了做本地智能体的集成成本,但也把评测责任更多地转移到了采购方自己身上。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。

英伟达开源 Nemotron 3.5 Super VL 与 24GB 本地智能体模型 Bolt|北京拓实科技