Nemotron 3.5 Super VL hat 120 Milliarden Parameter, von denen pro Token rund 12 Milliarden gerechnet werden. Dieses Verhältnis beschreibt NVIDIA in einem Entwicklerbeitrag. Das Modell ist offen, nachtrainierbar und verarbeitet Text, Bilder, Dokumente und Video in einem einzigen Reasoning-Durchlauf. Der Hersteller positioniert es als Grundlage für spezialisierte Agenten, die dauerhaft im Unternehmen laufen und dabei Werkzeuge aufrufen. Wer versteht, wie die Architektur arbeitet, versteht auch, warum sich die Kosten für agentische Workflows ändern.
Die Ausgangslage ist bekannt. Ein einzelner Auftrag an einen Agenten kann bedeuten, ein Dokument zu lesen, Angaben über mehrere Quellen zu prüfen, eine Unternehmensrichtlinie anzuwenden und anschließend drei verschiedene Werkzeuge aufzurufen. Bisher lief das meist arbeitsteilig zwischen einem Sprachmodell und einem separaten Vision-Language-Modell, zwischen denen der Aufgabenkontext hin- und hergereicht wurde. Jede Übergabe kostet Zeit, Tokens und gelegentlich Genauigkeit. NVIDIA will diese Übergabestelle überflüssig machen.
Warum 120 Milliarden Parameter pro Token nur 12 Milliarden kosten
Nemotron 3.5 Super VL ist ein Mixture-of-Experts-Modell. Bei jedem Token wird nur eine kleine Gruppe passender Spezialisten aktiviert, nicht alle 120 Milliarden Parameter. Von den 120 Milliarden werden pro Token also nur etwa 12 Milliarden durchgerechnet. Die Gesamtkapazität bleibt groß, die Rechenarbeit pro Schritt klein. Das ist der Effizienzgewinn, den NVIDIA in den Mittelpunkt stellt.
NVIDIA gibt an, dass das Modell auf einer einzelnen GPU eine bis zu fünffach höhere Durchsatzrate für agentische Aufgaben erreicht als andere offene Modelle seiner Größenklasse. Auf einem Baseten-Endpunkt sollen mehr als 600 Output-Tokens pro Sekunde anfallen. Bei Agenten, die rund um die Uhr arbeiten und Tausende kleiner Schritte ausführen, entscheidet der Durchsatz darüber, wie viel Arbeit eine Maschine schafft.
Ein Modell statt zwei: multimodales Reasoning im selben Durchlauf
Wer heute Agenten baut, kennt das Muster: Ein Textmodell liest den Fließtext, ein separates Vision-Modell interpretiert das Diagramm, und dazwischen wird Aufgabenkontext neu formatiert und gelegentlich falsch verstanden. Nemotron 3.5 Super VL vereint beide Rollen in einem Modell. Dazu kommen Instruktionsbefolgung und Werkzeugnutzung als feste Bestandteile statt als nachträglich ergänzte Schicht.
Die Einsatzfelder, die NVIDIA beschreibt, sind breit gefächert. Genannt werden Codeprüfung und Fehleranalyse, Web-Recherche mit Quellenabgleich, Dokumentenintelligenz für Tabellen, Diagramme und Seitenlayouts, Sicherheitsanalyse zur Triage von Schwachstellen sowie Videoauswertung für Suche und Vorfallanalyse. Wichtig ist die Einordnung im Modellverbund: Kleinere Modelle wie Nemotron 3.5 Lightning übernehmen Massentextarbeit, Frontier-Modelle wie Nemotron 3 Ultra kümmern sich um Planung und Orchestrierung, und Nemotron 3.5 Super VL sitzt dazwischen bei mehrstufigen Aufgaben, die Reasoning, Werkzeuge und visuelles Verständnis gleichzeitig brauchen.
Bei der Auswertung von Diagrammen nennt NVIDIA konkrete Werte. Auf dem Chart-Reasoning-Benchmark CharXiv erreicht das Modell 80,8 Prozent, verglichen mit 63 Prozent beim kleineren Nemotron 3 Nano Omni. Mit zusätzlicher Interpretation von Python-Code steigt der Wert auf 84 Prozent. Auf der OCRBench-v2-Rangliste zählt es laut Hersteller zu den besten offenen Modellen.
Nachtraining mit NVIDIA NeMo: eigene Daten, eigene Werkzeuge, eigene Richtlinien
Ein Basismodell kennt keine Unternehmenswirklichkeit. Fachbegriffe, Werkzeugschnittstellen, Arbeitsabläufe und Richtlinien entscheiden aber darüber, ob ein Agent eine Aufgabe korrekt abschließt oder nur plausibel klingt. Hier setzt das Nachtraining an. Organisationen aus Cybersecurity, Finanzwesen und Gesundheitswesen trainieren Nemotron 3.5 Super VL laut NVIDIA bereits mit eigenen Daten nach, um Frontier-Modelle in Genauigkeit und Effizienz ihrer Produktionsabläufe zu übertreffen.
Für das Nachtraining stehen die offenen NeMo-Bibliotheken bereit. Mit NeMo AutoModel lassen sich überwachtes Feintuning und Low-Rank-Adaptation nutzen, um domänenspezifisches Verhalten beizubringen. Bestärkendes Lernen über NeMo RL und Umgebungen aus NeMo Gym verbessert die Leistung in agentischen Abläufen, die die eigenen Prozesse widerspiegeln. Ergänzend veröffentlicht NVIDIA offene Datensätze auf Hugging Face, darunter agentische Werkzeugnutzung, Finanz-Reasoning, Instruktionsbefolgung, Langkontextdaten, Fairnessdaten und 40 Vision-Language-Datensätze. Diese Sammlungen sollen proprietäre Daten ergänzen, nicht ersetzen.
Für den multimodalen Teil verweist der Hersteller auf Ressourcen von NeMo Data Designer für Diagrammfragen und das Verständnis langer Dokumente. Ein Cookbook zur Nutzung des Modells liegt auf GitHub bereit. Die offenen Gewichte lassen sich in lokalen Umgebungen, im Rechenzentrum oder in der Cloud betreiben, je nach Infrastruktur- und Datenschutzanforderung. Wo gerechnet wird, entscheidet der Anwender.
Zahlen aus dem Produktivbetrieb: Skydance, Ramp, AI21 und Alice
Der Beitrag nennt konkrete Projekte. Scale AI hat das Modell nachtrainiert für die automatisierte Verarbeitung von Lieferanten-Gutschriften bei Skydance, einem Medien- und Unterhaltungsunternehmen; die Inferenzkosten für diese Aufgabe sollen um den Faktor 40 sinken, die Latenz um den Faktor 5. Die Finanzplattform Ramp wandelt Belegbilder in strukturiertes JSON mit Händlerdaten, Datum und Zahlungsinformationen um und erwartet bis zu 50 Prozent mehr Durchsatz bei zehnfach niedrigerer Latenz. AI21 und Alice haben das Modell für Bedrohungsanalyse und Schwachstellenbewertung nachtrainiert und berichten von 41 Prozent höherer Genauigkeit.
In allen drei Fällen liefert nicht das Basismodell den Vorsprung, sondern das Nachtraining auf die eigene Domäne. Das Modell ist der Ausgangspunkt, die Anpassung ist die Arbeit. Wer daraus den Schluss zieht, ein Download genüge, wird die genannten Werte kaum reproduzieren.
Unter der Haube: Destillation, spekulatives Dekodieren und LiLiCorr
Nemotron 3.5 Super VL wurde aus Nemotron 3 Ultra destilliert. Die Codierfähigkeiten des größeren Modells und eine als SkewReverse bezeichnete Verlustfunktion während der Destillation sollen die Codegenauigkeit verbessern. Im Nachtraining kombiniert eine Mehrlehrer-Destillation mit On-Policy-Ansatz die Vorgaben spezialisierter Lehrermodelle für Text und Vision; das Modell erzeugt Antworten, die Lehrer bewerten sie unter anderem für Videoreasoning, Vision-Werkzeugnutzung und Alignment. Zusätzliches Training mit Agentenaktionen, Coderepositorien und Software-Engineering-Aufgaben verbessert die Werte auf SWE-bench und Terminal-Bench gegenüber Nemotron 3 Super. Ergänzend kamen 10 Milliarden Indic-Tokens aus einem Zwölf-Sprachen-Subset hinzu, Teil eines Datensatzes mit rund 2,8 Billionen Tokens über 22 indische Sprachen, der gemeinsam mit dem IIT Madras und dessen AI4Bharat-Labor entstand.
Auf der Inferenzseite nennt NVIDIA eine hybride Architektur, spekulatives Dekodieren, Kontextwiederverwendung und gemischte Präzision, um wiederkehrende Aufrufe in Agentenschleifen günstiger zu machen. Die offene Technik LiLiCorr verbessert das parallele spekulative Dekodieren, indem Token-Kandidaten gemeinsam bewertet werden statt einzeln. NVIDIA berichtet von viermal schneller abgeschlossenen Agentenaufgaben und verweist dafür auf einen Vergleich in einer Abbildung. Die genauen Randbedingungen sind für die Übertragbarkeit entscheidend. Eine von NVIDIA angeführte Auswertung von EXO Labs verortet das Modell auf der Pareto-Grenze aus Genauigkeit und Bearbeitungszeit auf einer DGX Spark.
Was das für den Bau spezialisierter Agenten bedeutet
Auch die Agenten-Harnesses liefern Vergleichswerte. Auf Hermes Bench erreicht Nemotron 3.5 Super VL 63,44 Prozent gegenüber 56,33 Prozent bei Nemotron 3 Ultra, auf den LangChain-Evaluationen 87,05 gegenüber 84,3 Prozent. Dass ein spezialisiertes Modell seinen größeren Bruder bei genau diesen Tests überholt, ist bemerkenswert, weil sonst meist schiere Größe gewinnt. Die Bewertungen stammen allerdings von Anbietern, die ihre eigenen Umgebungen und Kriterien mitbringen. Man sollte sie als Hinweise lesen, nicht als allgemeingültige Rangliste.
Für Entwickler und Architekten ändert sich damit dreierlei. Erstens fallen getrennte Text- und Bildmodelle weg, samt dem Kontext, der zwischen ihnen transportiert werden musste; das reduziert Fehlerquellen und Betriebsaufwand. Zweitens verschiebt sich die Kostenkurve, weil Durchsatz und Token-Effizienz direkten Einfluss auf die Zahl der Aufgaben pro Stunde haben, und das ist die Währung dauerhaft laufender Agenten. Drittens bleibt die eigentliche Arbeit beim Nachtraining: Wer Fachbegriffe, Werkzeuge und Richtlinien nicht in Daten übersetzt, bekommt einen flüssig formulierenden Generalisten, keinen verlässlichen Kollegen.
Die offenen Gewichte und die NeMo-Werkzeuge senken die Einstiegshürde, ersetzen aber keine Domänenarbeit. Die genannten Effizienzgewinne von 40-fach geringeren Kosten oder zehnfach niedrigerer Latenz sind Ergebnisse angepasster Modelle in klar umrissenen Abläufen, nicht Eigenschaften eines Downloads. Wer heute einen spezialisierten Agenten plant, sollte mit der Datenerhebung beginnen und nicht mit dem Benchmark-Vergleich.
Quelle: developer.nvidia.com
