NVIDIA 發布了 Nemotron 3.5 Super VL 模型權重，日期為 10 月 15 日。這個視覺語言模型接受文字、影像與取樣的影片影格，並輸出文字。開發者可將它用作代理的推理元件，讓代理讀取文件或影像、呼叫工具，再根據結果繼續執行。這次發布提供模型成品與部署服務的說明，並未證明這類代理在特定工作場所的可靠程度。

重大改變

  • 改變了什麼： NVIDIA 發布了一個經過後訓練的模型，在同一組權重中結合視覺輸入、文字推理與工具使用。文件記載的輸出是文字，因此應用程式仍須提供工具，並決定模型可執行哪些操作。
  • 為何重要： 建立文件或影片工作流程的開發者，可以用一個模型評估視覺證據及後續工具呼叫，而不必把視覺解讀視為獨立步驟。效益取決於開發者自身資料與權限設定下的結果。
  • 後續觀察： 公開的操作方案讓評估成為可能，但 NVIDIA 訓練指南指出，部分後訓練資料與元件仍未提供。相較於發布時的比較，針對特定任務的獨立結果更能說明模型是否有用。

NVIDIA 發布了什麼

這份 BF16 模型卡將後訓練檢查點標示為 1.0 GA 版本，並將 Hugging Face 發布日期列為 10 月 15 日。NVIDIA 也發布了 NVFP4 量化檢查點，供更精簡的推論使用。模型總共有 1,200 億個參數，每個 token 約啟用 120 億個。NVIDIA 的 研究頁面於 10 月 14 日上線，介紹範圍更廣的 Super 與 Lightning 模型；這份較早的研究發布與 10 月 15 日的權重發布是不同事件。

模型卡將授權列為 OpenMDW 1.1，並表示檢查點可依照這些條款作商業與非商業用途。BF16 權重定位於客製化與全精度評估；NVFP4 版本則定位於更有效率的推論服務。NVIDIA 的 訓練方案也列出基礎權重、資料與操作方案，但提醒 Super 3.5 使用的監督式微調與強化學習資料尚未公布。部分教師模型與視覺推理階段依賴未公開的元件。因此，發布的材料不足以完整重現 NVIDIA 的訓練流程。

代理可以如何使用它

NVIDIA 文件列出的輸入包括文字、JPEG 或 PNG 影像，以及最長兩分鐘的 MP4 影片。文件可用頁面影像搭配文字提供。輸出是文字字串，可包含答案，或交由應用程式處理的工具呼叫。模型卡中的 API 範例展示以 vLLM 在本機提供、相容於 OpenAI 的聊天端點，包含影像、影片與工具呼叫範例。這是供開發者使用的介面，並非完整的文件處理或事件回應產品。

NVIDIA 的 發布文章將文件擷取、圖表解讀與影片審閱列為預期用途。文章表示 Ramp 正把收據影像轉成結構化 JSON，並預期吞吐量最多提高 50%、延遲降至十分之一。NVIDIA 表示，Scale AI 對模型進行後訓練，用於 Skydance 的供應商貸項處理，預計該工作負載的推論成本降至四十分之一、延遲降至五分之一。這些是 NVIDIA 敘述中特定合作夥伴的主張與預期，並非 BIG CHANGE 測得的結果，也不能證明一般部署會取得同樣效益。

硬體、成本與限制

BF16 模型卡提供四張 H100 GPU 或兩張 GB200 GPU 的 vLLM 配置。NVFP4 模型卡列出更精簡的配置，包括以單台 DGX Spark 處理文字與影像，以及以單張 H200 或 GB200 處理文字、影像與影片。規格列出的最大上下文為 100 萬個 token，但模型卡提醒，個別部署方案可能採用較小的上下文視窗，以配合可用 GPU 記憶體與並行量。影片方案會取樣影格，並非不受限制地處理影片；範例從一至兩分鐘的片段開始。

權重有其授權條款，但執行仍需要適當的 GPU 容量與軟體。引用的模型卡並未提供自行託管推論的統一美元價格；本次檢視時，NVIDIA 發布文章中的託管服務連結也未顯示公開價格。成本取決於所選硬體或供應商，以及實際工作負載。NVIDIA 報告了亮眼的基準與吞吐量結果，其中發布文章包含單 GPU 吞吐量最高達五倍的比較。該比較取決於文中指定的端點、工作負載與基準，並非讀者應用程式的實測成本或速度。

評估這次發布的開發者，應先測試自己的文件、影片片段、工具權限與錯誤處理，再賦予代理實際操作權限。NVIDIA 的模型卡本身也要求針對使用情境進行系統測試。BIG CHANGE 已審閱公開的模型成品與文件，但未執行模型。

來源與延伸閱讀

  • NVIDIA 技術部落格，10 月 15 日：發布說明、擬議用途、合作夥伴主張與供應商吞吐量比較。上文已標明合作夥伴預測與 NVIDIA 基準測試的來源。
  • NVIDIA Nemotron 研究頁面，10 月 14 日：介紹更廣泛的模型家族、研究報告與連結的檢查點。其發布日期早於模型卡的發布日期。
  • BF16 模型卡與NVFP4 模型卡，兩者日期均為 10 月 15 日：版本、授權、輸入與輸出、部署服務範例及硬體配置。模型卡是 NVIDIA 自身的文件，並非獨立實地測試。
  • NVIDIA 訓練方案：區分已發布的檢查點與方案，以及仍待公開的後訓練資料與元件。