Nvidia Nemotron-3.5: Neue Embed-, Rerank- und Parse-Modelle
Nvidia aktualisiert seine Retrieval-Modelle von 3.0 auf 3.5: Embed (1B und 8B), Rerank (8B) und ein Parse-Modell sind auf Hugging Face verfügbar.
Worum es geht
Nvidia hat laut einem Reddit-Hinweis in r/LocalLLaMA seine Nemotron-Modelle für Retrieval von Version 3.0 auf 3.5 aktualisiert. Die Modelle liegen auf Hugging Face und decken Embedding, Reranking und Dokument-Parsing ab. Sie eignen sich für RAG-Pipelines.
Die wichtigsten Fakten
- Nemotron-3.5-Embed-1B-BF16 und Nemotron-3.5-Embed-8B-BF16 als Embedding-Modelle.
- Nemotron-3.5-Rerank-8B-BF16 als Reranker.
- Nemotron-3.5-Parse als Modell zum Parsen von Dokumenten.
- Die Gewichte stehen unter dem Hugging-Face-Namensraum nvidia.
- Lizenz, Benchmarks und Details zu Parse sind in der Quelle nicht genannt.
Einordnung
Der Beitrag ist nur ein kurzer Hinweis ohne Details oder Tests. Für alle, die lokale RAG-Systeme bauen, ist ein kompletter Stack aus Parse, Embed und Rerank interessant. Das 1B-Embedding-Modell läuft auch auf kleiner Hardware. Qualität und Lizenz sollte man selbst prüfen.
Selbst ausprobieren
Nemotron-3.5-Embed-8B auf deinem Rechner oder kostenlos in Google Colab.
Google Colab
- Notebook herunterladen: colab.ipynb
- colab.research.google.com öffnen → Datei → Notebook hochladen
- Laufzeit → Laufzeittyp ändern → GPU (T4)
- Laufzeit → Alle ausführen – fertig.
Die Skripte werden automatisch erzeugt. Bitte vor dem Ausführen kurz ansehen und die Model Card lesen – manche Modelle brauchen spezielle Versionen.
