NVIDIA 发布了 Nemotron 3.5 Super VL 模型权重,日期为 10 月 15 日。这一视觉语言模型接受文本、图像和采样的视频帧,并生成文本。开发者可将它作为智能体的推理组件,让智能体读取文档或图像、调用工具,再根据结果继续执行。此次发布提供模型产物和推理服务部署说明,并未证明这类智能体在具体工作场所的可靠程度。

重大变化

  • 发生了什么变化: NVIDIA 发布了经过后训练的模型,在同一组权重中结合视觉输入、文本推理和工具使用。文档规定的输出是文本,因此应用仍需提供工具,并决定模型可以执行哪些操作。
  • 为何重要: 构建文档或视频工作流的开发者,可以用一个模型评估视觉证据和后续工具调用,而不必把视觉解读当作孤立步骤。收益取决于开发者使用自身材料和权限设置取得的结果。
  • 后续关注: 公开的方案使评估成为可能,但 NVIDIA 训练指南指出,部分后训练数据和组件仍未提供。针对具体任务的独立结果,比仅看发布时的对比更能说明模型是否有用。

NVIDIA 发布了什么

这份 BF16 模型卡将后训练检查点标为 1.0 GA 版本,并将 Hugging Face 发布日期列为 10 月 15 日。NVIDIA 还发布了 NVFP4 量化检查点,用于更紧凑的推理。模型共有 1,200 亿个参数,每个 token 约激活 120 亿个。NVIDIA 的 研究页面于 10 月 14 日上线,介绍范围更广的 Super 和 Lightning 模型;这份较早的研究发布与 10 月 15 日的权重发布是不同事件。

模型卡将许可列为 OpenMDW 1.1,并表示检查点可以依照这些条款用于商业和非商业用途。BF16 权重面向定制和全精度评估;NVFP4 版本面向更高效的推理服务。NVIDIA 的 训练方案也列出基础权重、数据和方案,但提醒 Super 3.5 使用的监督微调和强化学习数据尚未公布。部分教师模型和视觉推理阶段依赖未公开的组件。因此,发布的材料不足以完整复现 NVIDIA 的训练过程。

智能体可以如何使用它

NVIDIA 文档列出的输入包括文本、JPEG 或 PNG 图像,以及最长两分钟的 MP4 视频。文档可通过页面图像配合文本提供。输出是文本字符串,可包含答案,或由应用处理的工具调用。模型卡中的 API 示例展示以 vLLM 在本地提供、兼容 OpenAI 的聊天端点,包含图像、视频和工具调用示例。这是面向开发者的接口,并非完整的文档处理或事件响应产品。

NVIDIA 的 发布文章将文档提取、图表解读和视频审阅列为预期用途。文章表示 Ramp 正把收据图像转换为结构化 JSON,并预期吞吐量最多提高 50%、延迟降至十分之一。NVIDIA 表示,Scale AI 对模型进行后训练,用于 Skydance 的供应商贷项处理,预计该工作负载的推理成本降至四十分之一、延迟降至五分之一。这些是 NVIDIA 叙述中特定合作伙伴的主张和预期,并非 BIG CHANGE 测得的结果,也不能证明一般部署会获得同样收益。

硬件、成本与局限

BF16 模型卡提供四张 H100 GPU 或两张 GB200 GPU 的 vLLM 配置。NVFP4 模型卡列出更紧凑的配置,包括以单台 DGX Spark 处理文本和图像,以及以单张 H200 或 GB200 处理文本、图像和视频。规定的最大上下文为 100 万个 token,但模型卡提醒,具体部署方案可能采用更小的上下文窗口,以配合可用 GPU 内存和并发量。视频方案采样视频帧,并非不受限制地处理视频;示例从一至两分钟的片段开始。

权重有其许可条款,但运行仍需要合适的 GPU 容量和软件。引用的模型卡并未提供自行托管推理的统一美元价格;本次审阅时,NVIDIA 发布文章中的托管访问链接也未显示公开价格。成本取决于所选硬件或服务商,以及实际工作负载。NVIDIA 报告了出色的基准测试和吞吐量结果,其中发布文章包含单 GPU 吞吐量最高达五倍的对比。该对比取决于文中指定的端点、工作负载和基线,并非读者应用的实测成本或速度。

评估此次发布的开发者,应先测试自己的文档、视频片段、工具权限和错误处理,再赋予智能体实际操作权限。NVIDIA 的模型卡本身也要求针对使用场景进行系统测试。BIG CHANGE 已审阅公开的模型产物和文档,但未运行模型。

来源与延伸阅读

  • NVIDIA 技术博客,10 月 15 日:发布说明、拟议用途、合作伙伴主张和服务商吞吐量对比。上文已标明合作伙伴预测和 NVIDIA 基准测试的来源。
  • NVIDIA Nemotron 研究页面,10 月 14 日:介绍更广泛的模型家族、研究报告和链接的检查点。其发布日期早于模型卡的发布日期。
  • BF16 模型卡与NVFP4 模型卡,两者日期均为 10 月 15 日:版本、许可、输入和输出、推理服务示例及硬件配置。模型卡是 NVIDIA 自身的文档,并非独立实地测试。
  • NVIDIA 训练方案:区分已发布的检查点与方案,以及仍待公开的后训练数据和组件。