Nanbeige4.3-33B: Offenes Agenten-Modell mit 512K Kontext veröffentlicht
Das Team hinter Nanbeige hat auf Hugging Face das Modell Nanbeige4.3-33B freigegeben. Es ist auf Coding- und Büro-Agentenaufgaben ausgelegt und liegt laut eigenen Benchmarks bei vielen Tests vor Qwen3.8-27B und Gemma4-31B. Es dient zugleich als Lehrer-Modell für kleinere Varianten wie ein künftiges 3B-Modell.
Worum es geht
Das Nanbeige-Team hat auf Hugging Face das Sprachmodell Nanbeige4.3-33B veröffentlicht. Es ist das Flaggschiff der Reihe Nanbeige4.3 und soll vor allem als „Lehrer“ dienen: Zuerst wird ein leistungsstarkes Agenten-Modell gebaut, dessen Fähigkeiten danach per Destillation in kleinere Modelle übertragen werden. Destillation heißt: Ein großes Modell bringt einem kleinen Modell bei, ähnlich zu antworten, sodass das kleine Modell mehr kann, als seine Größe erwarten ließe. Als nächstes Ziel nennt das Team ein Nanbeige4.3-3B.
Der Hersteller beschreibt das Modell als führend unter offenen Modellen der Klasse um 30 Milliarden Parameter (Parameter sind grob gesagt die Stellschrauben, die das Modell beim Training gelernt hat). Es soll besonders bei komplexen Programmieraufgaben und „professionellen Cowork-Aufgaben“ stark sein, also Büro- und Automatisierungsarbeit, die ein Agent selbstständig erledigt. Die Quelle ist die Modellseite auf Hugging Face sowie ein Beitrag in r/LocalLLaMA.
Benchmarks im Vergleich
Verglichen wird mit Qwen3.8-27B, Muse-Glimmer-30B und Gemma4-31B. Alle Modelle wurden laut Hersteller mit höchstem Denkaufwand und gleichen Inferenz-Einstellungen sowie gleicher Testumgebung („Harness“) geprüft. Es sind Herstellerangaben, keine unabhängigen Messungen.
| Benchmark | Nanbeige4.3-33B | Qwen3.8-27B | Muse-Glimmer-30B | Gemma4-31B |
|---|---|---|---|---|
| Terminal-Bench 2.1 | 80,9 | 73,0 | 61,8 | 47,2 |
| Terminal-Bench 4.0 | 23,8 | 6,3 | 1,6 | 0,0 |
| DeepSWE | 65,5 | 42,5 | 4,4 | 2,7 |
| SWE-Bench Pro | 60,3 | 61,7 | 36,9 | 51,2 |
| Automation Bench | 54,2 | 38,3 | 15,2 | 9,7 |
| JobBench | 44,8 | 34,5 | 16,6 | 9,0 |
| GDPval | 84,8 | 86,4 | 75,8 | 71,4 |
| Toolathlon-Verified | 70,4 | 68,5 | 47,2 | 27,8 |
| GPQA Diamond | 89,5 | 89,2 | 83,5 | 91,3 |
| AIME 2026 | 95,2 | 94,5 | 94,7 | 89,2 |
Weitere Ergebnisse: SWE-Atlas-QnA 50,8, NL2Repo 53,0, Scicode 52,6, SkillsBench 61,1, Claw-Eval 78,3, DeepPlanning 63,3, EnterpriseOps-Gym 41,0, Tau3-Bench 48,8 und AA-LCR 84,0. Beim Simulations-Test YC-bench erzielt es 1.025.437 US-Dollar gegenüber 641.290 für Qwen3.8-27B. Bei JobBench übertrifft es die Vergleichsmodelle laut Hersteller in den meisten der 35 geprüften Berufe.
Die Fußnoten zeigen, dass die Testbedingungen teils speziell sind: Nanbeige wurde mit preserve_thinking=true getestet, SWE-Atlas-QnA wurde mit GPT-6 Sol als Bewerter beurteilt, GDPval mit überarbeiteten Bewertungsrastern, und bei Toolathlon-Verified gab es keine Token-Begrenzung pro Anfrage.
Denkmodus, Werkzeuge und Kontext
Der Chat-Template-Tokenizer bietet mehrere Schalter:
enable_thinking: steuert, ob das Modell vor der Antwort „nachdenkt“. Standardmäßig an, mitFalseim Nicht-Denkmodus.preserve_thinking: behält die Überlegungen früherer Gesprächsrunden. Empfohlen:Falsefür normalen Chat,Truefür mehrstufige Werkzeugnutzung, Büroaufgaben und Code-Agenten.- Werkzeuge (Tools) werden über das Template übergeben. Für beste Ergebnisse empfiehlt das Team
tool_call_format="xml"; JSON geht ebenfalls.
Der Kontext reicht bis 524.288 Tokens (Token sind Textbausteine, grob Wortteile). Empfohlene Sampling-Einstellungen:
| Szenario | Temperature | Top_p | Max. neue Tokens |
|---|---|---|---|
| Agenten und Werkzeuge | 1,0 | 0,95 | 65.536 |
| Reasoning und Chat | 0,6 | 0,95 | 262.144 |
Was du zum Ausprobieren brauchst
Ein 33-Milliarden-Modell braucht in voller Präzision (16 Bit) grob 66 GB Speicher; die Beispielbefehle für vLLM und SGLang nutzen vier GPUs. Zu quantisierten Versionen (GGUF) nennt die Quelle nichts, daher ist unklar, ob und wann sie bereitstehen. In 4 Bit wären grob 20–22 GB VRAM zu erwarten, etwa eine 24-GB-Karte oder ein Mac mit viel Unified Memory. Je länger der Kontext, desto mehr Speicher kostet der Zwischenspeicher. Plane außerdem rund 70 GB Festplatte für die Originalgewichte ein. Google Colab und Kaggle sind auf der Seite verlinkt, für ein 33B-Modell reichen die kostenlosen Instanzen aber kaum.
Die Anbindung läuft über Transformers (mit trust_remote_code=True), vLLM oder SGLang; beide Server bieten eine OpenAI-kompatible Schnittstelle. Für Tool-Aufrufe werden die Parser qwen3 (Reasoning) und qwen3_coder (Tools) verwendet.
Einordnung
Das Modell ist interessant für alle, die lokal oder selbst gehostet Agenten für Programmierung und Büroautomatisierung betreiben wollen. Die Zahlen sind beeindruckend, vor allem bei Terminal-Bench 4.0 und DeepSWE, wo Nanbeige weit vor den anderen liegt. Gleichzeitig sind es Herstellerwerte mit teils eigenen Einstellungen, und bei SWE-Bench Pro, GDPval und GPQA Diamond liegt ein Konkurrent vorn. Die Aussage „Stärker als Qwen3.8-27B“ gilt also nur für die Mehrzahl, nicht für alle Tests. Unabhängige Überprüfungen, die Lizenz und Community-Quantisierungen stehen noch aus. Spannend bleibt, wie gut die angekündigten kleinen Destillate wie das 3B-Modell werden.
Quellen
- r/LocalLLaMA huggingface.co
Selbst ausprobieren: Nanbeige4.3-33B
Schritt für Schritt erklärt, auch ohne Vorkenntnisse – auf deinem Rechner oder kostenlos im Browser.
Was kann ich damit machen?
Das Modell arbeitet als Denk- und Agenten-Modell: Es kann Programmieraufgaben im Terminal lösen, Code-Repositories bearbeiten, Werkzeuge aufrufen und Büro-Workflows abarbeiten. Es versteht sehr lange Eingaben bis 512K Tokens und kann im Denkmodus knifflige Mathe- und Logikfragen lösen.
Für wen lohnt es sich?
Lohnt sich für Entwickler und Bastler mit starker GPU oder Multi-GPU-Setup, die lokale Coding-Agenten testen wollen. Für Einsteiger mit kleiner Grafikkarte eher nicht, solange keine kleinen Varianten oder Quantisierungen verfügbar sind.
Was dein Rechner braucht
Bisher gibt es laut Quelle nur die Originalgewichte (33B). Für 4-Bit-Betrieb (sobald Community-Quantisierungen da sind) sind etwa 22 GB VRAM realistisch; für volle Präzision mehrere GPUs. Ein kleineres Nanbeige4.3-3B ist angekündigt, aber noch nicht erschienen.
- Die Beispielbefehle für vLLM und SGLang nutzen --tensor-parallel-size 4, also vier GPUs.
- In 16 Bit braucht das Modell grob 66 GB für die Gewichte, in 4 Bit grob 20–22 GB.
- Lange Kontexte (bis 512K) kosten zusätzlich viel Speicher; für den Anfang kürzere Kontexte wählen.
- Eine GGUF-Version für CPU- oder Apple-Silicon-Betrieb ist laut Quelle nicht genannt.
Wie finde ich heraus, was mein Rechner hat?
- Windows: Strg + Umschalt + Esc drücken → Task-Manager → Reiter Leistung → links GPU anklicken. Unten steht Dedizierter GPU-Speicher (das ist dein VRAM). Den Arbeitsspeicher findest du unter Arbeitsspeicher.
- Mac: Apfel-Menü oben links → Über diesen Mac. Dort stehen Chip (z. B. M2) und Speicher (z. B. 16 GB). Bei Apple-Chips teilen sich Grafik und Prozessor diesen Speicher.
- Linux: Im Terminal
nvidia-smieingeben (zeigt Grafikkarte und Speicher) undfree -hfür den Arbeitsspeicher.
Anleitung
Google Colab (im Browser, ohne Installation)
Google Colab ist ein kostenloser Dienst von Google: Du bekommst für ein paar Stunden einen Rechner mit Grafikkarte im Browser. Du brauchst nur ein Google-Konto. Für dieses Modell: nur mit Colab Pro – braucht eine A100 mit 40 GB.
- Notebook herunterladen. Klick auf den Knopf und speichere die Datei.
- Colab öffnen. Geh auf colab.research.google.com und melde dich mit deinem Google-Konto an.
- Notebook hochladen. Im Fenster, das erscheint, links auf Hochladen klicken (oder oben Datei → Notebook hochladen) und die Datei
colab.ipynbauswählen. - Grafikkarte einschalten. Oben im Menü Laufzeit → Laufzeittyp ändern → bei Hardwarebeschleuniger T4-GPU auswählen (mit Colab Pro: L4 oder A100) → Speichern.
- Alles starten. Laufzeit → Alle ausführen (Tastenkürzel Strg + F9). Kommt die Warnung „Dieses Notebook wurde nicht von Google erstellt“, auf Trotzdem ausführen klicken.
- Warten. Die Zellen laufen nacheinander durch. Links neben jeder Zelle erscheint ein grüner Haken, wenn sie fertig ist. Installation und Download dauern hier etwa 10 Minuten.
- Ausprobieren. Das Ergebnis steht unter der letzten Zelle. Um etwas anderes zu testen, den Text in der Zelle ändern und mit Shift + Enter erneut ausführen. Die letzte Zelle startet einen richtigen Chat mit Eingabefeld.
- Aufräumen. Wenn du fertig bist: Laufzeit → Sitzung beenden. Das schont dein kostenloses Kontingent.
Gut zu wissen: Die Gratis-GPU ist begrenzt (meist einige Stunden am Tag). Nach rund 90 Minuten ohne Aktivität trennt Colab die Verbindung, dann alles neu starten.
Windows 10 / 11
Am einfachsten geht es mit Ollama, einem kostenlosen Programm, das KI-Modelle mit einem Befehl startet.
- Grafikkartentreiber aktualisieren (nur bei NVIDIA-Karten): Die NVIDIA-App bzw. den aktuellen Treiber installieren. AMD-Karten: aktuellen Adrenalin-Treiber nutzen.
- Ollama installieren. Auf ollama.com/download/windows die Datei OllamaSetup.exe herunterladen, doppelklicken und Install wählen. Danach sitzt rechts unten in der Taskleiste ein kleines Lama-Symbol.
- Eingabefenster öffnen. Windows-Taste drücken, PowerShell eintippen und Enter drücken. Es öffnet sich ein blaues oder schwarzes Fenster.
- Modell starten. Diesen Befehl kopieren (Knopf „Kopieren“), mit Rechtsklick ins Fenster einfügen und Enter drücken:
Beim ersten Mal lädt Ollama das Modell herunter (19 GB (bei 100 MBit/s ca. 25 Min.)). Danach geht es sofort.ollama run hf.co/eepos/Nanbeige4.3-33B-Q4_K_S-GGUF:Q4_K_S - Losschreiben. Sobald
>>> Send a messageerscheint, deine Frage eintippen und Enter drücken. Mit/byebeendest du den Chat.
Lieber automatisch? Skript, das die passende Variante selbst auswählt
- Beide Dateien in denselben Ordner herunterladen: try_windows.ps1 demo.py
- Den Ordner im Explorer öffnen, mit Rechtsklick auf eine freie Stelle In Terminal öffnen wählen.
- Diesen Befehl einfügen und Enter drücken:
powershell -ExecutionPolicy Bypass -File try_windows.ps1
Das Skript installiert Ollama bei Bedarf über winget, misst deinen Grafikspeicher und lädt die passende Variante.
macOS
Ideal sind Macs mit Apple-Chip (M1 bis M5). Ältere Intel-Macs sind sehr langsam.
- Ollama installieren. Auf ollama.com/download/mac herunterladen, die Datei öffnen und Ollama in den Ordner Programme ziehen. Ollama einmal starten – oben in der Menüleiste erscheint ein Lama.
- Terminal öffnen. Cmd + Leertaste drücken, Terminal eintippen, Enter.
- Modell starten. Befehl einfügen (Cmd + V) und Enter:
Beim ersten Mal wird das Modell heruntergeladen (19 GB (bei 100 MBit/s ca. 25 Min.)).ollama run hf.co/eepos/Nanbeige4.3-33B-Q4_K_S-GGUF:Q4_K_S - Losschreiben. Frage eintippen, Enter. Mit
/byebeenden.
Linux
- Grafikkarte prüfen.
nvidia-smisollte deine Karte anzeigen. Wenn nicht, unter Ubuntu den Treiber installieren und neu starten:sudo ubuntu-drivers install - Ollama installieren:
curl -fsSL https://ollama.com/install.sh | sh - Modell starten:
Mitollama run hf.co/eepos/Nanbeige4.3-33B-Q4_K_S-GGUF:Q4_K_S/byebeenden. Mitollama pssiehst du, ob das Modell auf der GPU läuft. - Oder automatisch die passende Variante wählen lassen:
bash try_linux.sh # mit Python/transformers statt Ollama: MODE=hf bash try_linux.sh
Das kannst du ausprobieren
Schreibe ein Python-Skript, das alle CSV-Dateien in einem Ordner einliest, zusammenführt und Duplikate entfernt. Erkläre danach kurz den Aufbau.Welche Zahl ist größer, 9,11 oder 9,8? Begründe Schritt für Schritt.Plane eine fünftägige Projektwoche für ein Team von vier Personen mit Aufgaben, Abhängigkeiten und Risiken als Tabelle.Wenn es hakt
Beim Laden mit Transformers `trust_remote_code=True` und `use_fast=False` setzen, wie in der Quelle gezeigt.
Für Tool-Aufrufe die Parser `--reasoning-parser qwen3` und `--tool-call-parser qwen3_coder` angeben.
Für Agenten-Aufgaben `preserve_thinking=True` und Temperature 1.0 nutzen, für normalen Chat `False` und Temperature 0.6.
Die Lizenz ist in der Quelle nicht genannt; vor kommerzieller Nutzung auf der Modellseite prüfen.
„out of memory“, Absturz oder der Rechner hängt
Das Modell ist zu groß für deinen Grafikspeicher. Nimm eine kleinere Variante aus der Tabelle oben und schließe andere Programme, vor allem Spiele und Browser mit vielen Tabs.
Es läuft, aber extrem langsam
Wahrscheinlich rechnet der Prozessor statt der Grafikkarte. Bei Ollama zeigt ollama ps in der Spalte PROCESSOR, wie viel auf der GPU läuft. Steht dort „100% CPU“, Grafiktreiber aktualisieren oder eine kleinere Variante nehmen, die komplett in den Grafikspeicher passt.
„ollama“ bzw. „python“ wird nicht gefunden
Das Eingabefenster schließen und neu öffnen, damit es das frisch installierte Programm kennt. Bei Python unter Windows: neu installieren und das Häkchen Add python.exe to PATH setzen.
Windows: „Die Ausführung von Skripts ist auf diesem System deaktiviert“
Das Skript genau mit dem Befehl oben starten: powershell -ExecutionPolicy Bypass -File try_windows.ps1. Das erlaubt die Ausführung nur dieses einen Mal.
Fehlermeldung beim Laden des Modells (Version, „trust_remote_code“, unbekannte Architektur)
Ganz neue Modelle brauchen oft die neueste Programmversion. Bei Ollama: Ollama aktualisieren. Bei Python: pip install -U transformers in der aktivierten Umgebung. Die Model Card nennt meist die genaue Version.
Skripte und Notebook erzeugt Tokenstrom automatisch. Bitte vor dem Ausführen kurz ansehen – sie sind lesbarer Klartext. Lizenz des Modells beachten: apache-2.0.
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
