Axion 1.0: Bytedance zeigt, dass drei Trainingsschritte für starke KI-Agenten reichen

Ein Team von Bytedance und mehreren US-Universitäten trainiert mit nur zwei Feinabstimmungsrunden und einer Runde Verstärkungslernen einen offenen Agenten, der in Wissenschafts-Benchmarks mit großen kommerziellen Modellen mithält. Das Besondere: Neben dem Modell sind auch Daten, Prompts und der komplette Trainingscode offen.

Modell-Releases Selbst ausprobieren 21. Nov. 2026 8 Min. Lesezeit Quelle: The Decoder (EN)
Symbolbild, KI-generiert

Worum es geht

KI-Modelle sollen heute nicht mehr nur Fragen beantworten, sondern selbstständig im Netz recherchieren, Code ausführen und mehrstufige Aufgaben lösen. Solche Fähigkeiten nennt man "agentisch". Die Trainingsverfahren dahinter werden laut einem neuen Forschungspapier immer verschachtelter: Viele Entwickler stapeln zahlreiche Trainingsphasen hintereinander, sodass kaum noch nachvollziehbar ist, welcher Schritt eigentlich hilft – und das Nachbauen wird teuer.

Ein Team von Bytedance (dem Mutterkonzern von TikTok) sowie der Duke University, der University of Maryland und der University at Buffalo hält dagegen. Mit Axion 1.0 wollen die Forschenden zeigen, dass drei Schritte genügen. Wie The Decoder berichtet, untermauern sie die These mit einem konkurrenzfähigen offenen Modell. Das Paper trägt laut explainx.ai die arXiv-Nummer 2611.03233; veröffentlicht wurden außerdem Code, Trainingsdaten und ein 35-Milliarden-Parameter-Checkpoint.

Die Modelle und was veröffentlicht wurde

Axion 1.0 ist eine Modellfamilie in zwei Größen, beide als Mixture-of-Experts (MoE) gebaut – das Modell besteht aus vielen Teilnetzen ("Experten"), von denen pro Wort nur wenige rechnen. Dadurch ist es schneller, als die Gesamtgröße vermuten lässt:

Modell Gesamtparameter aktiv pro Token Basismodell
Axion 1.0-35B 35 Mrd. 3 Mrd. Qwen3.6-35B-A3B
Axion 1.0-122B 122 Mrd. 10 Mrd. Qwen3.5-122B-A10B

Axion ist also kein von Grund auf trainiertes Modell, sondern ein sogenanntes Post-Training – ein Nachtraining auf bestehenden Qwen-Modellen von Alibaba.

Laut explainx.ai besteht die Veröffentlichung aus vier Teilen:

  • Paper und Projektseite mit dem Rezept und den Tabellen zu den Trainingsstufen. Auf der Hugging-Face-Paper-Seite lag es zum Zeitpunkt des Berichts auf Platz drei der Tagespapiere.
  • Code im Repository bytedance/axion1_0: Datenerzeugung und -filterung, Prompts, zweistufiges Feintuning, asynchrones Verstärkungslernen sowie Benchmark-Vorbereitung und Bewertung. Das Repo hatte zum Zeitpunkt 19 Sterne und 36 Commits – ein frühes Release ohne gewachsene Community.
  • Trainingsdaten als Datensatz "axion-training-data" in der Hugging-Face-Organisation Axion1-0.
  • Ein 35B-Checkpoint im Format BF16 mit rund 35,1 Milliarden Parametern unter Apache-2.0-Lizenz.

Ein wichtiges Detail: Laut README ist der 35B-Checkpoint "ein Community-Release, kein offizieller Axion-Checkpoint". Für das 122B-Modell fand explainx.ai keinen Download-Link für Gewichte – wer es nutzen will, muss es mit der Trainingsanleitung selbst nachbauen.

Das Rezept: denken lernen, recherchieren lernen, durch Interaktion lernen

Die Idee der Autoren: Die Komplexität gehört in die Daten, nicht in eine lange Kette von Trainingstricks. Bewusst verzichtet wurde auf Mid-Training (ein Zwischentraining auf großen Datenmengen), auf DPO (Lernen aus Paaren von bevorzugten und abgelehnten Antworten) und auf On-Policy-Destillation (Lernen von einem stärkeren Lehrermodell anhand eigener Antworten).

Stufe I – eigenständiges Denken: 10.819 Lösungswege aus Naturwissenschaft und Mathematik. Das Team nimmt öffentliche Aufgaben und schreibt sie zu schwierigeren um. Löst das Basismodell eine Aufgabe schon, wird sie weiter verschärft – etwa durch Kombination mehrerer Aufgaben, andere Zahlenbereiche oder Fallunterscheidungen. Nach jeder Umformulierung wird die Referenzantwort geprüft. Das Paper nennt das "modellbewusste Datenkonstruktion": Der Schwierigkeitsgrad wird an das angepasst, was das Basismodell bereits kann. Python ist hier erlaubt, Websuche nicht.

Stufe II – Denken mit Werkzeugen: 7.544 Lösungswege mit zusammen etwa 312 Millionen Tokens. Hier arbeitet die Pipeline rückwärts: Programme filtern Einträge aus strukturierten Datenbanken, wählen ein eindeutiges Objekt aus und berechnen die Antwort. Erst dann formuliert ein Sprachmodell die passende Frage. Das zu trainierende Modell muss die Belege mit Werkzeugen selbst finden. Fragen, die sich ohne Recherche beantworten lassen, fliegen raus. Als Quellen nennt das README das NASA Exoplanet Archive, OurAirports, OpenAlex, UniProt und Ensembl. So hat jede Aufgabe eine eindeutige, überprüfbare Antwort – genau das, was der nächste Schritt braucht.

Stufe III – Verstärkungslernen: Ausgehend vom Modell nach Stufe II läuft asynchrones GRPO – ein Verfahren, bei dem das Modell mehrere Lösungsversuche erzeugt und für bessere Versuche belohnt wird; "asynchron" heißt, dass Erzeugen und Trainieren parallel laufen. Das Modell interagiert dabei mit Suche, Webseitenaufrufen, wissenschaftlicher Literatursuche und Python. Eine richtige Endantwort bringt volle Belohnung, nachweislich richtige Zwischenschritte Teilpunkte. Lange Durchläufe werden in Sitzungen aufgeteilt und der bisherige Verlauf verdichtet. Zwei technische Kniffe: "Token-In-Token-Out" sorgt dafür, dass beim Erzeugen und beim Training exakt dieselben Token-IDs verwendet werden, und "Rollout Routing Replay" stellt sicher, dass das MoE-Modell in beiden Phasen dieselben Experten auswählt.

Benchmarks: stark, aber mit Fußnoten

Die Autoren vergleichen Axion mit offenen und geschlossenen Modellen. Ein Auszug aus der README-Tabelle (Sternchen: von den Axion-Autoren selbst gemessen, sonst offizielle Angaben; "–" = nicht berichtet):

Modell HLE BMB SEAL-0 HiPhO FS Olympiad FS Research
Agents-A1 47,6 – 56,4 46,4 79,0 40,0
Apodex 1.1 (Agent Team) 56,1 35,3 – – – 63,3
GPT-5.6 Sol – 47,1* 53,2* 42,9* 79,0* 63,3*
Gemini 3.1 Pro 51,4 35,3* 53,2* 38,5* 85,0* 26,7*
Claude Fable 5 63,8 46,1 – – – –
Axion 1.0-35B 52,2 35,3 62,2 45,7 86,0 56,7
Axion 1.0-122B 59,0 41,7 58,6 46,2 87,0 66,7

HLE steht für Humanity's Last Exam, eine Sammlung extrem schwerer Expertenfragen; BMB ist der für Menschen schwierige Teil von BioMysteryBench, FS steht für FrontierScience. Laut Model Card erreichen außerdem Claude Opus 5 63,6 Punkte in HLE, GPT-6 Astra 57,2 und Muse-Spark-1.0 58,0.

explainx.ai liest die Tabelle nüchtern: Axion führt dort, wo Daten vorliegen – das 122B-Modell bei FrontierScience Olympiad und Research, das 35B-Modell bei SEAL-0. Bei HLE und BioMysteryBench liegen aber Claude-Modelle und mehrere geschlossene Systeme vorn. Zudem ist der Vergleich ungleich: Viele Zellen sind leer, manche Werte haben die Axion-Autoren selbst gemessen, andere stammen aus offiziellen Berichten. Die Projektseite warnt selbst, dass sich die Testbedingungen unterscheiden können. Der HLE-Wert von 59,0 wurde "mit eingeschränktem Webseitenzugriff" erzielt – wichtig, weil HLE-Antworten sonst im Netz auffindbar sein können.

Ein weiterer Haken: Die Axion-Werte sind laut Projektseite jeweils der beste von drei Durchläufen (bei BMB von fünf), kein Durchschnitt. Ermutigend ist dagegen der Community-Nachbau des 35B-Modells: Er kommt laut Model Card auf 52,8 (HLE), 35,3 (BMB), 60,4 (SEAL-0), 45,9 (HiPhO), 85,0 (FS Olympiad) und 55,0 (FS Research) – nah an den Paper-Werten, wenn auch nur eine einzelne Reproduktion.

Was das Training gekostet hat

Die beiden Feintuning-Stufen liefen laut Autoren auf 32 GPUs:

Modell Stufe I Stufe II GPU-Stunden gesamt
Axion 1.0-35B 1 h 02 min 1 h 46 min ca. 90
Axion 1.0-122B 3 h 32 min 3 h 58 min 240

Dazu kommt das Verstärkungslernen: etwa 15 Stunden für das 122B-Modell (40 GPUs für Lösungsversuche, 16 fürs Training, 40 Schritte) und etwa 30 Stunden für das 35B-Modell (je 8 GPUs, 20 Schritte). Nicht enthalten sind die Kosten für den Datenaufbau, der viele Aufrufe großer Sprachmodelle erfordert. Das README weist zudem auf eine kleine Unstimmigkeit hin: Im veröffentlichten 122B-Rezept steht eine Micro-Batch-Größe von 1, im Paper 2.

Was du zum Ausprobieren brauchst

Veröffentlicht ist nur der 35B-Checkpoint, und zwar in BF16 – in dieser vollen Genauigkeit belegt er rund 70 GB Speicher. Mit einer 4-Bit-Quantisierung (das Modell wird verkleinert, indem seine Zahlen gröber gespeichert werden) wären grob 22–24 GB Grafikspeicher nötig, also eine Karte wie die RTX 3090/4090 oder ein Mac mit mindestens 32 GB gemeinsamem Speicher. Fertige GGUF-Dateien werden in den Quellen nicht erwähnt. Weil pro Token nur 3 Milliarden Parameter rechnen, ist auch ein Betrieb mit teilweise in den Arbeitsspeicher ausgelagerten Experten denkbar; konkrete Angaben dazu gibt es aber nicht. Plane rund 70 GB Speicherplatz für das Original ein. Wichtig: Seine Stärken spielt Axion nur aus, wenn es Werkzeuge wie Websuche und Python zur Verfügung hat – in einer simplen Chat-Oberfläche fehlt das.

Einordnung

Offene Gewichte sind inzwischen verbreitet, offene Rezepte nicht. Die meisten Releases liefern einen Checkpoint und eine Modellbeschreibung, die Datenpipeline bleibt geheim. Axion legt Generatoren, Filter, Prompts und Bewertungscode offen – das ist der eigentliche Wert, denn andere Teams können so prüfen, ob die These "drei Stufen reichen" hält. Die geringen Rechenkosten für das Feintuning machen das auch für Universitäten realistisch.

Einschränkungen bleiben: Ein großer Teil der Leistung stammt aus den Qwen-Basismodellen. Die Benchmarks decken wissenschaftliches Denken und Informationssuche ab, sagen aber wenig über Programmier-Agenten, lange Computer-Bedienung oder Produkt-Workflows. Die Vergleichstabelle ist selbst berichtet, lückenhaft und nutzt Bestwerte statt Mittelwerte. Und der einzige herunterladbare Checkpoint ist ausdrücklich kein offizieller. Als Forschungsbeitrag ist Axion dennoch bemerkenswert: Es zeigt, dass sorgfältig gebaute, überprüfbare Daten offenbar mehr bringen als immer längere Trainingsketten.

Quellen

#bytedance#open-source#ki-agenten#reinforcement-learning#qwen
Originalquelle lesen

Selbst ausprobieren: Axion-1.0-35B

Schritt für Schritt erklärt, auch ohne Vorkenntnisse – auf deinem Rechner oder kostenlos im Browser.

Was kann ich damit machen?

Axion 1.0-35B ist auf wissenschaftliches Denken und selbstständige Recherche trainiert: Es löst schwierige Mathe- und Naturwissenschaftsaufgaben und kann, wenn man ihm Werkzeuge gibt, im Netz suchen, Webseiten lesen, Fachliteratur abfragen und Python-Code ausführen. In den Benchmarks der Autoren schlägt die 35B-Version bei SEAL-0 alle verglichenen Modelle und kommt bei FrontierScience Olympiad auf 86 Punkte. Bei Humanity's Last Exam liegt sie mit 52,2 Punkten aber deutlich hinter Spitzenmodellen wie Claude Opus 5. Da pro Token nur 3 Milliarden Parameter rechnen, antwortet es vergleichsweise flott. Grenzen: Programmier-Agenten, Computerbedienung oder kreatives Schreiben wurden nicht getestet, und ohne angeschlossene Werkzeuge fehlt ein großer Teil der Agentenfähigkeit. Der Checkpoint ist ein Community-Nachbau, kein offizielles Release.

Für wen lohnt es sich?

Spannend für alle, die mit lokalen Recherche-Agenten experimentieren, sowie für Forschende und Studierende in Mathe und Naturwissenschaften mit einer 24-GB-Grafikkarte oder einem großen Mac. Wer nur einen allgemeinen Chat-Assistenten oder Hilfe beim Programmieren sucht, ist mit dem Basismodell Qwen oder anderen Allroundern vermutlich besser bedient.

Ideen: Was du damit anstellen kannst

Mathe-Hausaufgaben nachvollziehen

Gib eine schwierige Aufgabe aus Schule oder Studium ein und lass dir den Lösungsweg Schritt für Schritt erklären. Das Modell kann Zwischenergebnisse mit Python prüfen, sodass Rechenfehler seltener werden.

Lokaler Recherche-Assistent

Verbinde das Modell mit einer Websuche und stelle konkrete Faktenfragen, etwa zu Flughäfen, Planeten oder wissenschaftlichen Datenbanken. Heraus kommt eine Antwort mit gefundenen Belegen, ohne dass deine Anfragen an einen Cloud-Chatbot gehen.

Physik-Olympiade-Training

Nutze Olympiade-Aufgaben als Übung und vergleiche deine Lösung mit der des Modells. Bei FrontierScience Olympiad erzielte es laut Autoren hohe Werte.

Literaturüberblick für die Abschlussarbeit

Lass das Modell mit Literatursuche zu einem Thema Studien finden und kurz zusammenfassen. Die Quellen solltest du anschließend unbedingt selbst prüfen.

Eigene Agenten-Experimente

Mit dem offenen Code, den Daten und den Bewertungsskripten kannst du das Trainingsrezept auf eigene Fachgebiete übertragen. Das Feintuning des 35B-Modells kostete laut Autoren nur rund 90 GPU-Stunden.

Größe35,1 Mrd. Parameter (3 Mrd. aktiv)
Download21 GB (bei 100 MBit/s ca. 28 Min.)
Lizenzapache-2.0
ArtSprachmodell (Text-Chat)

Was dein Rechner braucht

Grafikkarte (NVIDIA), komplett im VRAM mind. 20 GB VRAM, empfohlen 24 GBz. B. RTX 5090 – am schnellsten; mit weniger VRAM siehe nächste Zeile
Grafikkarte + Arbeitsspeicher (MoE-Offloading) ab ca. 6 GB VRAM + 32 GB RAMdie Experten liegen im Arbeitsspeicher, nur der Kern auf der Grafikkarte (llama.cpp/LM Studio). Langsamer als komplett im VRAM, aber auf normalen PCs machbar
Mac (Apple Silicon M1–M5) ab 36 GB gemeinsamer SpeicherGrafik und Prozessor teilen sich den Speicher – etwa 70 % davon kann das Modell nutzen
Nur Prozessor (ohne Grafikkarte) Ohne Grafikkarte flüssig nutzbargeschätzt 12 Wörter pro Sekunde auf einem aktuellen Desktop-PC (MoE: nur 3 Mrd. Parameter pro Wort aktiv). Dafür mindestens 32 GB Arbeitsspeicher.
Speicherplatz ca. 23 GB freiModell-Download plus Programme
Google Colab nur mit Colab Promit MoE-Offloading auf T4/L4 plus High-RAM-Laufzeit (ca. 51 GB RAM), Gratis-Colab hat zu wenig Arbeitsspeicher

Welche Variante passt zu mir?

Viele Modelle gibt es in mehreren Größen oder „Quantisierungen“. Das sind komprimierte Fassungen: kleiner und schneller, dafür minimal ungenauer. Faustregel: Nimm die größte Variante, deren Speicherbedarf in deinen Grafikspeicher (VRAM) passt. Die Skripte unten wählen das automatisch für dich aus.

VarianteDownloadBraucht ca.Passende Grafikkarten
Q3_K_M 17 GB20 GBz. B. RTX 3090, RTX 4090, Tesla P40
Q4_K_M Standard 21 GB24 GBz. B. RTX 5090
Q5_K_M 25 GB28 GBz. B. RTX 5090
Q6_K 28 GB32 GBz. B. 2× RTX 3090/4090 oder RTX A6000
BF16 69 GB78 GBz. B. mehrere Profi-GPUs (2× A6000, H100) oder DGX Spark

Herunterladbar ist nur die 35B-Version (3B aktiv) in BF16, rund 70 GB groß – in voller Genauigkeit nur für Rechner mit sehr viel Grafikspeicher. Für normale Hardware ist eine 4-Bit-Quantisierung sinnvoll (grob 22–24 GB), die aber laut Quellen nicht offiziell bereitsteht und ggf. von der Community kommen muss. Die 122B-Version gibt es nicht als Download; sie müsste selbst nachtrainiert werden.

  • Original-Checkpoint in BF16 belegt etwa 70 GB Speicher.
  • Mit 4-Bit-Quantisierung grob 22–24 GB VRAM, z. B. RTX 3090/4090 oder Mac mit mindestens 32 GB gemeinsamem Speicher.
  • Nur 3 Mrd. aktive Parameter pro Token: Auslagern von Experten in den Arbeitsspeicher ist grundsätzlich möglich, offizielle Werte dazu gibt es nicht.
  • Lange Agenten-Durchläufe mit vielen Suchergebnissen brauchen viel Kontext, der zusätzlichen Speicher kostet.
  • Rund 70 GB freier Plattenspeicher für den Download einplanen.
Wie finde ich heraus, was mein Rechner hat?
  • Windows: Strg + Umschalt + Esc drücken → Task-Manager → Reiter Leistung → links GPU anklicken. Unten steht Dedizierter GPU-Speicher (das ist dein VRAM). Den Arbeitsspeicher findest du unter Arbeitsspeicher.
  • Mac: Apfel-Menü oben links → Über diesen Mac. Dort stehen Chip (z. B. M2) und Speicher (z. B. 16 GB). Bei Apple-Chips teilen sich Grafik und Prozessor diesen Speicher.
  • Linux: Im Terminal nvidia-smi eingeben (zeigt Grafikkarte und Speicher) und free -h für den Arbeitsspeicher.

Anleitung

Google Colab (im Browser, ohne Installation)

Google Colab ist ein kostenloser Dienst von Google: Du bekommst für ein paar Stunden einen Rechner mit Grafikkarte im Browser. Du brauchst nur ein Google-Konto. Für dieses Modell: nur mit Colab Pro – braucht die L4-GPU (22,5 GB), die Gratis-T4 ist zu klein.

  1. Notebook herunterladen. Klick auf den Knopf und speichere die Datei.

    colab.ipynb herunterladen

  2. Colab öffnen. Geh auf colab.research.google.com und melde dich mit deinem Google-Konto an.
  3. Notebook hochladen. Im Fenster, das erscheint, links auf Hochladen klicken (oder oben Datei → Notebook hochladen) und die Datei colab.ipynb auswählen.
  4. Grafikkarte einschalten. Oben im Menü Laufzeit → Laufzeittyp ändern → bei Hardwarebeschleuniger T4-GPU auswählen (mit Colab Pro: L4 oder A100) → Speichern.
  5. Alles starten. Laufzeit → Alle ausführen (Tastenkürzel Strg + F9). Kommt die Warnung „Dieses Notebook wurde nicht von Google erstellt“, auf Trotzdem ausführen klicken.
  6. Warten. Die Zellen laufen nacheinander durch. Links neben jeder Zelle erscheint ein grüner Haken, wenn sie fertig ist. Installation und Download dauern hier etwa 11 Minuten.
  7. Ausprobieren. Das Ergebnis steht unter der letzten Zelle. Um etwas anderes zu testen, den Text in der Zelle ändern und mit Shift + Enter erneut ausführen. Die letzte Zelle startet einen richtigen Chat mit Eingabefeld.
  8. Aufräumen. Wenn du fertig bist: Laufzeit → Sitzung beenden. Das schont dein kostenloses Kontingent.

Gut zu wissen: Die Gratis-GPU ist begrenzt (meist einige Stunden am Tag). Nach rund 90 Minuten ohne Aktivität trennt Colab die Verbindung, dann alles neu starten.

Windows 10 / 11

Am einfachsten geht es mit Ollama, einem kostenlosen Programm, das KI-Modelle mit einem Befehl startet.

  1. Grafikkartentreiber aktualisieren (nur bei NVIDIA-Karten): Die NVIDIA-App bzw. den aktuellen Treiber installieren. AMD-Karten: aktuellen Adrenalin-Treiber nutzen.
  2. Ollama installieren. Auf ollama.com/download/windows die Datei OllamaSetup.exe herunterladen, doppelklicken und Install wählen. Danach sitzt rechts unten in der Taskleiste ein kleines Lama-Symbol.
  3. Eingabefenster öffnen. Windows-Taste drücken, PowerShell eintippen und Enter drücken. Es öffnet sich ein blaues oder schwarzes Fenster.
  4. Modell starten. Diesen Befehl kopieren (Knopf „Kopieren“), mit Rechtsklick ins Fenster einfügen und Enter drücken:
    ollama run hf.co/prithivMLmods/Axion-1.0-35B-GGUF:Q4_K_M
    Beim ersten Mal lädt Ollama das Modell herunter (21 GB (bei 100 MBit/s ca. 28 Min.)). Danach geht es sofort.
  5. Losschreiben. Sobald >>> Send a message erscheint, deine Frage eintippen und Enter drücken. Mit /bye beendest du den Chat.

Zu wenig Speicher? Nimm eine kleinere Variante aus der Tabelle oben, z. B. ollama run hf.co/prithivMLmods/Axion-1.0-35B-GGUF:Q3_K_M.

Lieber automatisch? Skript, das die passende Variante selbst auswählt
  1. Beide Dateien in denselben Ordner herunterladen: try_windows.ps1 demo.py
  2. Den Ordner im Explorer öffnen, mit Rechtsklick auf eine freie Stelle In Terminal öffnen wählen.
  3. Diesen Befehl einfügen und Enter drücken:
    powershell -ExecutionPolicy Bypass -File try_windows.ps1

Das Skript installiert Ollama bei Bedarf über winget, misst deinen Grafikspeicher und lädt die passende Variante.

macOS

Ideal sind Macs mit Apple-Chip (M1 bis M5). Ältere Intel-Macs sind sehr langsam.

  1. Ollama installieren. Auf ollama.com/download/mac herunterladen, die Datei öffnen und Ollama in den Ordner Programme ziehen. Ollama einmal starten – oben in der Menüleiste erscheint ein Lama.
  2. Terminal öffnen. Cmd + Leertaste drücken, Terminal eintippen, Enter.
  3. Modell starten. Befehl einfügen (Cmd + V) und Enter:
    ollama run hf.co/prithivMLmods/Axion-1.0-35B-GGUF:Q4_K_M
    Beim ersten Mal wird das Modell heruntergeladen (21 GB (bei 100 MBit/s ca. 28 Min.)).
  4. Losschreiben. Frage eintippen, Enter. Mit /bye beenden.
Automatisch die passende Variante wählen

try_mac.sh

cd ~/Downloads
bash try_mac.sh

Linux

  1. Grafikkarte prüfen. nvidia-smi sollte deine Karte anzeigen. Wenn nicht, unter Ubuntu den Treiber installieren und neu starten:
    sudo ubuntu-drivers install
  2. Ollama installieren:
    curl -fsSL https://ollama.com/install.sh | sh
  3. Modell starten:
    ollama run hf.co/prithivMLmods/Axion-1.0-35B-GGUF:Q4_K_M
    Mit /bye beenden. Mit ollama ps siehst du, ob das Modell auf der GPU läuft.
  4. Oder automatisch die passende Variante wählen lassen:

    try_linux.sh

    bash try_linux.sh
    # mit Python/transformers statt Ollama:
    MODE=hf bash try_linux.sh

Das kannst du ausprobieren

Berechne die Wahrscheinlichkeit, bei fünf Würfen mit zwei Würfeln mindestens einmal einen Pasch zu werfen, und erkläre jeden Schritt.
Ein Exoplanet umkreist seinen Stern in 3,5 Tagen, der Stern hat 0,9 Sonnenmassen. Wie groß ist die große Halbachse der Umlaufbahn? Rechne mit Python nach.
Erkläre den Unterschied zwischen Mitose und Meiose so, dass ihn ein Schüler der 9. Klasse versteht, und nenne je ein typisches Prüfungsbeispiel.
Recherchiere (mit Websuche), welcher Flughafen in Island die längste Start- und Landebahn hat, und nenne deine Quelle.
Finde mithilfe von Literatursuche drei aktuelle Studien zu einem bestimmten Protein in UniProt und fasse ihre Kernaussagen zusammen.

Tipps für bessere Ergebnisse

  • Für Recherche-Aufgaben das Modell in einer Agenten-Umgebung mit Such- und Python-Werkzeugen betreiben, z. B. über die Skripte im Repository bytedance/axion1_0.
  • Bei Mathe- und Physikaufgaben ausdrücklich erlauben, Python zum Nachrechnen zu nutzen – so wurde es in Stufe I trainiert.
  • Aufgaben mit eindeutiger, überprüfbarer Antwort formulieren; darauf ist das Training ausgelegt.
  • Bei langen Recherchen den Kontext großzügig einstellen, aber den zusätzlichen Speicherbedarf beachten.

Wenn es hakt

Der 35B-Checkpoint ist laut README ein Community-Release, kein offizieller Axion-Checkpoint – Ergebnisse können leicht abweichen.

Die Architektur ist als qwen3_5_moe markiert; ältere Versionen von Transformers, vLLM oder llama.cpp unterstützen sie eventuell nicht – auf aktuelle Versionen achten.

Fertige GGUF-Dateien werden in den Quellen nicht erwähnt; für Ollama/LM Studio muss man ggf. auf Community-Konvertierungen warten oder selbst konvertieren.

Ohne angeschlossene Werkzeuge (Websuche, Python) verhält sich das Modell wie ein normales Chatmodell; die Agenten-Benchmarks setzen eine Tool-Umgebung voraus.

Die 122B-Version ist nicht als Download verfügbar.

„out of memory“, Absturz oder der Rechner hängt

Das Modell ist zu groß für deinen Grafikspeicher. Nimm eine kleinere Variante aus der Tabelle oben und schließe andere Programme, vor allem Spiele und Browser mit vielen Tabs.

Es läuft, aber extrem langsam

Wahrscheinlich rechnet der Prozessor statt der Grafikkarte. Bei Ollama zeigt ollama ps in der Spalte PROCESSOR, wie viel auf der GPU läuft. Steht dort „100% CPU“, Grafiktreiber aktualisieren oder eine kleinere Variante nehmen, die komplett in den Grafikspeicher passt.

„ollama“ bzw. „python“ wird nicht gefunden

Das Eingabefenster schließen und neu öffnen, damit es das frisch installierte Programm kennt. Bei Python unter Windows: neu installieren und das Häkchen Add python.exe to PATH setzen.

Windows: „Die Ausführung von Skripts ist auf diesem System deaktiviert“

Das Skript genau mit dem Befehl oben starten: powershell -ExecutionPolicy Bypass -File try_windows.ps1. Das erlaubt die Ausführung nur dieses einen Mal.

Fehlermeldung beim Laden des Modells (Version, „trust_remote_code“, unbekannte Architektur)

Ganz neue Modelle brauchen oft die neueste Programmversion. Bei Ollama: Ollama aktualisieren. Bei Python: pip install -U transformers in der aktivierten Umgebung. Die Model Card nennt meist die genaue Version.

Skripte und Notebook erzeugt Tokenstrom automatisch. Bitte vor dem Ausführen kurz ansehen – sie sind lesbarer Klartext. Lizenz des Modells beachten: apache-2.0.

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.