NVIDIA veröffentlichte die Modellgewichte von Nemotron 3.5 Super VL am 15. Oktober. Das Bild-Sprach-Modell verarbeitet Text, Bilder und ausgewählte Videoframes und erzeugt Text. Entwickler können es als Schlussfolgerungskomponente eines Agenten nutzen, der ein Dokument oder Bild liest, ein Werkzeug aufruft und mit dem Ergebnis weiterarbeitet. Die Veröffentlichung liefert ein Modellartefakt und Serving-Anweisungen; sie belegt nicht, wie zuverlässig ein solcher Agent in einem bestimmten Arbeitsumfeld funktioniert.

Die große Veränderung

  • Was sich geändert hat: NVIDIA hat ein nachtrainiertes Modell veröffentlicht, das visuelle Eingaben, textbasiertes Schlussfolgern und Werkzeugnutzung in einem Gewichtssatz verbindet. Seine dokumentierte Ausgabe ist Text. Die Anwendung stellt daher weiterhin die Werkzeuge bereit und legt fest, was das Modell tun darf.
  • Warum es wichtig ist: Entwickler von Dokument- oder Videoabläufen können ein Modell über visuelle Belege und anschließende Werkzeugaufrufe hinweg evaluieren, statt die visuelle Interpretation als isolierten Schritt zu behandeln. Der Nutzen hängt von den Ergebnissen mit eigenen Materialien und Berechtigungen ab.
  • Worauf zu achten ist: Die veröffentlichten Rezepte ermöglichen Evaluationen, doch laut NVIDIAs Trainingsleitfaden bleiben einige Nachtrainingsdaten und Komponenten unverfügbar. Unabhängige, auf konkrete Aufgaben zugeschnittene Ergebnisse werden mehr über den Nutzen aussagen als Vergleiche zur Markteinführung allein.

Was NVIDIA veröffentlicht hat

Die BF16-Modellkarte kennzeichnet den nachtrainierten Checkpoint als Version 1.0 GA und datiert die Veröffentlichung auf Hugging Face auf den 15. Oktober. NVIDIA stellte außerdem einen NVFP4-quantisierten Checkpoint für kompaktere Inferenz bereit. Das Modell hat insgesamt 120 Milliarden Parameter, von denen pro Token rund 12 Milliarden aktiv sind. NVIDIAs Forschungsseite erschien am 14. Oktober und beschreibt die breiter angelegten Super- und Lightning-Modelle. Diese frühere Forschungsmitteilung ist von der Gewichtsveröffentlichung am 15. Oktober zu unterscheiden.

Die Modellkarten nennen als Lizenz OpenMDW 1.1 und erklären die Checkpoints unter diesen Bedingungen für kommerziell und nichtkommerziell nutzbar. Die BF16-Gewichte sind für Anpassungen und Evaluation mit voller Präzision vorgesehen, die NVFP4-Variante für effizienteres Serving. NVIDIAs Trainingsrezept führt auch Basisgewichte, Daten und Rezepte auf, warnt jedoch, dass die für Super 3.5 genutzten Daten für überwachtes Feintuning und Reinforcement Learning noch nicht veröffentlicht sind. Einige Lehrer-Modell- und visuelle Schlussfolgerungsstufen hängen von nichtöffentlichen Komponenten ab. Die Materialien ermöglichen deshalb keine vollständige Reproduktion von NVIDIAs Trainingslauf.

Wie ein Agent es nutzen kann

NVIDIA dokumentiert Text, JPEG- oder PNG-Bilder und MP4-Videos bis zu zwei Minuten als Eingaben. Dokumente lassen sich als Seitenbilder mit Begleittext bereitstellen. Die Ausgabe ist eine Textzeichenfolge, die eine Antwort oder einen von der Anwendung zu bearbeitenden Werkzeugaufruf enthalten kann. Die API-Beispiele der Modellkarte zeigen einen lokal mit vLLM betriebenen, OpenAI-kompatiblen Chat-Endpunkt einschließlich Beispielen für Bilder, Video und Werkzeugaufrufe. Das ist eine Entwicklerschnittstelle, kein fertiges Produkt zur Dokumentverarbeitung oder Vorfallsreaktion.

NVIDIAs Ankündigungsbeitrag nennt Dokumentenextraktion, Diagramminterpretation und Videosichtung als vorgesehene Anwendungen. Demnach wandelt Ramp Belegbilder in strukturiertes JSON um und erwartet bis zu 50% höheren Durchsatz sowie zehnfach geringere Latenz. NVIDIA zufolge hat Scale AI das Modell für die Verarbeitung von Lieferantengutschriften bei Skydance nachtrainiert; für diese Arbeitslast werden 40-fach geringere Inferenzkosten und fünffach geringere Latenz prognostiziert. Das sind partnerspezifische Aussagen und Erwartungen in NVIDIAs Darstellung, keine Messungen von BIG CHANGE oder Belege dafür, dass ein allgemeiner Einsatz dieselben Gewinne erzielt.

Hardware, Kosten und Grenzen

Die BF16-Karte enthält vLLM-Konfigurationen für vier H100- oder zwei GB200-GPUs. Die NVFP4-Karte listet kompaktere Konfigurationen auf, darunter einen DGX Spark für Text und Bilder sowie eine H200 oder GB200 für Text, Bilder und Video. Als maximaler Kontext wird eine Million Token genannt. Die Karten warnen jedoch, dass einzelne Serving-Rezepte kleinere Kontextfenster nutzen können, um zu verfügbarem GPU-Speicher und Parallelität zu passen. Das Videorezept wählt Frames aus, statt uneingeschränktes Filmmaterial zu verarbeiten; die Beispiele beginnen mit ein- bis zweiminütigen Clips.

Für die Gewichte gelten Lizenzbedingungen, doch zum Ausführen braucht es weiterhin geeignete GPU-Kapazität und Software. Die zitierten Modellkarten nennen keinen einheitlichen Dollarpreis für selbst gehostete Inferenz. Auch der Link zum gehosteten Zugang in NVIDIAs Beitrag zeigte bei dieser Prüfung keinen öffentlichen Preis. Die Kosten hängen von Hardware oder Anbieter und der tatsächlichen Arbeitslast ab. NVIDIA meldet starke Benchmark- und Durchsatzergebnisse, darunter einen Vergleich mit bis zu fünffachem Durchsatz auf einer einzelnen GPU im Ankündigungsbeitrag. Dieser Vergleich hängt vom genannten Endpunkt, der Arbeitslast und den Vergleichsgrundlagen ab; er ist keine Messung von Kosten oder Geschwindigkeit einer Leseranwendung.

Entwickler sollten eigene Dokumente, Clips, Werkzeugberechtigungen und Fehlerbehandlung testen, bevor sie einem Agenten operative Befugnisse erteilen. NVIDIAs Modellkarte selbst fordert anwendungsspezifische Systemtests. BIG CHANGE hat die veröffentlichten Artefakte und Dokumentationen geprüft, das Modell aber nicht ausgeführt.

Quellen und weiterführende Lektüre

  • NVIDIA Technical Blog, 15. Oktober: Ankündigung, vorgeschlagene Einsätze, Partneraussagen und Durchsatzvergleiche des Anbieters. Partnerprognosen und NVIDIA-Benchmarks sind oben zugeordnet.
  • NVIDIA-Nemotron-Forschungsseite, 14. Oktober: beschreibt die breitere Modellfamilie, den Forschungsbericht und verlinkte Checkpoints. Sie wurde vor dem Veröffentlichungsdatum der Modellkarten publiziert.
  • BF16-Modellkarte und NVFP4-Modellkarte, beide vom 15. Oktober: Version, Lizenz, Ein- und Ausgabe, Serving-Beispiele und Hardwarekonfigurationen. Es handelt sich um NVIDIAs eigene Dokumentation, nicht um unabhängige Praxistests.
  • NVIDIAs Trainingsrezept: unterscheidet veröffentlichte Checkpoints und Rezepte von noch nicht öffentlich freigegebenen Nachtrainingsdaten und Komponenten.