Nemotron 3.5 Super VL: NVIDIAs 120B-Vision-Language-Modell in NVFP4

Worum es geht

NVIDIA hat die quantisierte NVFP4-Variante von Nemotron 3.5 Super VL veröffentlicht, einem Vision-Language-Modell für Reasoning, Coding, Tool Use, Dokumenten- und Videoverständnis. Die Quantisierung entstand per Quantization-Aware Distillation aus dem BF16-Modell.

Die wichtigsten Fakten

• 120B Parameter gesamt, 12B aktiv; Hybrid aus Mamba-2, MoE und Attention mit C-RADIO-Vision-Encoder.
• Kontext bis 1M Tokens; Eingabe Text, Bilder, Video, Ausgabe Text.
• Multi-Token Prediction ermöglicht natives Speculative Decoding.
• Reasoning per Chat-Template schaltbar (off, on medium, on).
• Deployment: 1x DGX Spark, 1x H200, 2x H100 oder 1x GB200; Quick Start mit vLLM.
• Lizenz: OpenMDW-1.1, kommerzielle und nicht-kommerzielle Nutzung erlaubt.
• NVIDIA nennt die Nemotron-Familie offen bei Gewichten, Trainingsdaten und Rezepten.

Einordnung

Das Modell richtet sich an Nutzer mit Profi- oder DGX-Hardware, für normale Consumer-GPUs ist es zu groß. Die NVFP4-Quantisierung senkt den Speicherbedarf deutlich und macht ein 120B-Modell auf einem einzelnen DGX Spark nutzbar. Benchmarkwerte nennt der Auszug nur als Grafik, daher bleibt die Leistung im Vergleich unklar.