NVIDIA 开源 Nemotron 3.5 Super VL:120B 参数主打同级别 5 倍吞吐,Bolt 74B-A9B 用 2-bit 量化塞进 24GB 显存
NVIDIA 发布 Nemotron 3.5 Super VL,一个 120B 参数的开放模型,主打多模态 agent 任务——指令遵循、工具调用、多步骤业务流程和视觉理解;官方称准确度对得上自家最大的推理模型,而参数量只有大约五分之一。吞吐是它最硬的卖点:NVIDIA 说在 Artificial Analysis 智能指数榜上,同级别里它比第二名快最多 5 倍,适合要跑几天甚至几周的长时间 agent 工作流;与闭源前沿模型不同,机构可以拿自己的数据做后训练、部署在自己的基础设施上。同批还有两个端侧模型:Nemotron 3.5 Bolt 74B-A9B 24GB 用原生 2-bit 量化塞进 24GB 显存,能和别的应用同时跑在 RTX / DGX Spark 上,本地接 agent harness 做联网调研、写代码、调试代码都可以不把工作负载送到云上,官方称它是 PinchBench 同级别里排名第一的开放模型、BrowseComp 上排第二;Nemotron 3.5 Bolt E4B 4GB 面向 GeForce RTX、Jetson 和 RTX/DGX Spark 上的语音助理、交互角色与嵌入式界面,10 月 23 日上线。Super VL 与 Bolt 74B-A9B 现在即可获取。NVIDIA 同时列出一批在做后训练定制的机构:Scale AI 为 Skydance 的供应商信贷财务 agent 与 EY 的并购尽调 agent 做过训练,AfterQuery 为 Hebbia 定制信用协议分析,AI21 与 Alice 做网络安全韧性方向,Mercor 在 APEX-SWE 编码基准上后训练,ModelScope 通过 ms-swift 框架开放微调。