DaisyRose-27B: Offenes Coding-Agentenmodell, nur mit Reinforcement Learning trainiert

Das Start-up RadixArk hat mit DaisyRose-27B sein erstes Modell mit offenen Gewichten veröffentlicht. Es basiert auf Qwen3.8-27B, wurde ausschließlich mit Reinforcement Learning auf lange Agenten-Aufgaben trainiert und läuft auf einer einzelnen Grafikkarte. Auf dem schweren Terminal Bench 4.1 verdoppelt es laut Hersteller die Erfolgsquote seines Basismodells.

Modell-Releases Selbst ausprobieren 20. Nov. 2026 6 Min. Lesezeit Quelle: MarkTechPost
Symbolbild, KI-generiert

Worum es geht

Das KI-Infrastruktur-Start-up RadixArk hat diese Woche sein erstes eigenes Modell mit frei herunterladbaren Gewichten veröffentlicht: DaisyRose-27B. Es ist ein sogenanntes agentisches Coding-Modell, also ein Sprachmodell, das nicht nur Code vorschlägt, sondern selbstständig über viele Schritte hinweg Werkzeuge benutzt: Befehle im Terminal ausführen, Dateien lesen und ändern, Tests laufen lassen.

DaisyRose-27B ist kein komplett neu entwickeltes Modell. Es baut auf Qwen3.8-27B von Alibaba auf und wurde von RadixArk nachtrainiert. Das Besondere: Laut Modellkarte geschah das ausschließlich mit Reinforcement Learning (RL, Lernen durch Belohnung – das Modell probiert Aufgaben aus und wird für Erfolge belohnt), ohne SFT (Supervised Fine-Tuning, also Training an vorgegebenen Musterantworten) und ohne Destillation (Lernen von den Antworten eines größeren Lehrermodells). Die Gewichte stehen unter der freizügigen Apache-2.0-Lizenz auf Hugging Face und sind als direkter Ersatz für das Basismodell gedacht – wer Qwen3.8-27B schon betreibt, kann das Modell einfach austauschen.

Hinter RadixArk steht das Team rund um die Inferenz-Software SGLang. Laut Yahoo Finance (Simply Wall St) ist das Unternehmen mit einer Seed-Finanzierung von 100 Millionen US-Dollar gestartet, an der sich der Chiphersteller AMD beteiligt hat. Ziel sei, den Zugang zu großer KI-Infrastruktur zu verbreitern.

Aufbau des Modells

An der Architektur hat RadixArk nichts verändert. Das Modell hat insgesamt 27,8 Milliarden Parameter, davon entfallen 0,46 Milliarden auf einen Bild-Encoder und 0,42 Milliarden auf einen MTP-Kopf. Es ist ein dichtes Modell, bei jeder Antwort rechnen also alle Parameter mit – anders als bei Mixture-of-Experts-Modellen, die nur Teile aktivieren.

Die 64 Schichten folgen einem 3:1-Muster: Auf drei Schichten mit Gated DeltaNet – einer sparsamen „linearen“ Aufmerksamkeit, deren Rechenaufwand bei langen Texten nicht explodiert – folgt eine Schicht mit klassischer voller Aufmerksamkeit. Ein Bild-Encoder mit 27 Schichten verarbeitet Bilder, die Ausgabe ist immer Text. Die Multi-Token-Prediction-Schicht (MTP) sagt mehrere Token auf einmal voraus und ermöglicht so spekulatives Decoding: Ein schneller Entwurf wird vom großen Modell nur noch geprüft, was die Ausgabe beschleunigt. Das Kontextfenster umfasst 262.144 Token. DaisyRose ist ein „Thinking“-Modell, das vor der Antwort sichtbar nachdenkt.

So wurde trainiert

RadixArk hat gemeinsam mit Eigent AI rund 1.200 Aufgaben zusammengestellt, ausgewählt aus Tausenden Kandidaten. Jede davon zielt auf eine konkrete Schwäche des Basismodells. Pro Versuch in einer Sandbox – einer abgeschotteten Testumgebung – hatte das Modell bis zu 1,5 Stunden Zeit, mehr als 100 Werkzeugaufrufe und über 256.000 Ausgabe-Token. Ganze Agenten-Sitzungen erreichten laut Blog bis zu eine Million Token.

Das Training lief auf Miles, RadixArks eigenem Open-Source-Framework für RL, im vollständig asynchronen Modus (Ausprobieren und Lernen laufen parallel, statt aufeinander zu warten). Eingesetzt wurden 144 Nvidia-H200-GPUs über 18 Tage: 128 davon ließen den Agenten Aufgaben lösen, nur 16 übernahmen das eigentliche Training. Insgesamt flossen 63.000 GPU-Stunden hinein.

RadixArk nennt eine MFU (Model FLOPs Utilization, also wie viel der theoretischen Rechenleistung tatsächlich genutzt wird) von 37 Prozent mit dem internen Backend, gegenüber 16 Prozent mit einem quelloffenen Megatron-basierten Trainer. Der Durchsatz lag bei 16.800 statt 8.300 Token pro Sekunde, eine Verdopplung; das habe 57 Prozent GPU-Zeit gespart. Die Sandboxen liefen auf AgentENV: Zwischen Mitte September und Mitte November seien rund 944.000 Sandboxen gestartet worden, bis zu 1.566 gleichzeitig, mit 99 Prozent Erfolgsquote beim Erstellen über neun Wochen. Die Kosten lägen etwa 80 Prozent unter denen gängiger Cloud-Anbieter – auch das eine Herstellerangabe.

Benchmarks: deutlicher Sprung bei Terminal-Aufgaben

Alle Werte stammen von RadixArk selbst. Angegeben ist jeweils der bessere Wert aus BF16- und FP8-Läufen.

Benchmark DaisyRose-27B Qwen3.8-27B Veränderung
Terminal Bench 4.1 (pass@1) 12,0 5,6 +6,4
Terminal Bench 2.1 75,5 73,0 +2,5
DeepSWE v1.1 46,2 42,2 +4,0
SWE Bench Pro v2 94,7 91,3 +3,4
HLE (nur Text) 34,3 33,9 +0,4
IFBench 82,4 79,5 +2,9
GPQA Diamond 90,7 89,2 +1,5

„pass@1“ bedeutet: Anteil der Aufgaben, die beim ersten Versuch gelöst werden. Der größte Sprung gelingt auf dem schweren Terminal Bench 4.1, wo sich die Quote mehr als verdoppelt. Bei Programmieraufgaben gibt es solide Zuwächse, beim Wissen (HLE, GPQA Diamond) kaum Veränderung – das ist plausibel, denn RL-Training auf Agentenaufgaben bringt dem Modell keine neuen Fakten bei.

Gegenüber deutlich größeren Modellen ist das Bild gemischt. MiMo V2.6 Flash (309 Milliarden Parameter insgesamt) führt bei Terminal Bench 4.1 mit 16,1, Inkling 2 Small (594 Milliarden) bei DeepSWE mit 72,1 und bei HLE mit 44,1. In RadixArks Vergleichstabelle mit neun Modellen liegt DaisyRose nur beim Befolgen von Anweisungen (IFBench, 82,4) vorn. Im Vergleich mit ähnlich großen offenen Modellen wie Metas Muse Glimmer-30B oder Qwen3.6-35B-A3B schneidet es in allen gelisteten Tests besser ab. Auffällig: Auf der offiziellen SWE-bench-Pro-Variante, die Qwen auf seiner Modellkarte angibt (61,7 für das Basismodell), nennt RadixArk keinen Wert.

Was du zum Ausprobieren brauchst

Das Modell passt laut RadixArk auf eine einzige GPU. In voller Genauigkeit (BF16) braucht es etwa 52 GB Grafikspeicher, in FP8 rund 29 GB, in NVFP4 – einem 4-Bit-Format von Nvidia, das nur auf Grafikkarten der Blackwell-Generation läuft – etwa 23 GB. Offiziell genannte Ziel-Hardware: H200, B200, GB300, RTX PRO 6000, RTX 5090 und DGX Spark.

Für Privatleute ist vor allem die GGUF-Version interessant, ein Dateiformat für Programme wie llama.cpp, LM Studio oder Ollama. In 4-Bit-Quantisierung (das Modell wird verkleinert, indem seine Zahlen gröber gespeichert werden) solltest du grob mit 18 bis 20 GB rechnen – eine Karte mit 24 GB (etwa RTX 3090/4090) oder die RTX 5090 mit 32 GB ist realistisch. Auf Macs mit Apple Silicon und mindestens 32 GB gemeinsamem Speicher sollte die GGUF-Version ebenfalls laufen, langsamer. Wichtig: Lange Kontexte kosten zusätzlich Speicher, bei Agenten-Sitzungen mit Hunderttausenden Token wächst der Bedarf deutlich. Auf reiner CPU ist ein dichtes 27B-Modell zäh. Plane außerdem 20 bis 55 GB Festplattenplatz je nach Format ein.

RadixArk empfiehlt für Server SGLang mit DSpark-spekulativem Decoding und dem Entwurfsmodell Qwen3.8-27B-DSpark. vLLM funktioniert über vllm serve "RadixArk/DaisyRose-27B". Für den Denkmodus empfiehlt der Hersteller Temperatur 1,0, top_p 0,95 und top_k 20.

Einordnung

DaisyRose-27B ist weniger ein neues Spitzenmodell als ein Schaufenster: RadixArk zeigt, dass sich ein gutes offenes Modell mit überschaubarem Aufwand – 63.000 GPU-Stunden sind für Großlabore wenig – und reinem Reinforcement Learning gezielt für lange Agentenaufgaben verbessern lässt. Gleichzeitig wirbt das Unternehmen damit für seine Werkzeuge Miles, AgentENV und SGLang.

Für Entwickler, die lokale Coding-Agenten betreiben, ist das Modell ein einfacher Tausch mit potenziell spürbarem Gewinn bei Terminal-Aufgaben. Kritisch bleibt: Sämtliche Zahlen sind Eigenangaben, unabhängige Tests fehlen bislang. Einige Benchmark-Versionen (etwa SWE Bench Pro v2 mit Werten über 90) sind schwer mit den bekannten offiziellen Ranglisten zu vergleichen. Und bei wirklich schweren Agentenaufgaben liegen deutlich größere MoE-Modelle weiterhin klar vorn. Die Note-Autorin Miwa rät deshalb zu Recht, Basismodell und DaisyRose an eigenen Aufgaben unter gleichen Bedingungen zu vergleichen.

Quellen

#radixark#open-source#coding-agent#reinforcement-learning#qwen
Originalquelle lesen

Selbst ausprobieren: DaisyRose-27B

Schritt für Schritt erklärt, auch ohne Vorkenntnisse – auf deinem Rechner oder kostenlos im Browser.

Was kann ich damit machen?

DaisyRose-27B ist ein Programmier-Assistent, der als Agent arbeiten kann: In Werkzeugen wie Coding-Agenten liest es Dateien, führt Terminal-Befehle aus, wertet Fehlermeldungen aus und arbeitet sich in vielen Schritten zur Lösung vor. Es versteht neben Text auch Bilder, etwa Screenshots von Fehlermeldungen oder Diagramme, antwortet aber nur in Text. Als Denkmodell überlegt es vor der Antwort, was bei komplexen Aufgaben hilft, aber Zeit kostet. Laut Hersteller ist es in allen gemessenen Tests besser als sein Basismodell Qwen3.8-27B, besonders bei langen Terminal-Aufgaben, und befolgt Anweisungen sehr genau. Beim Faktenwissen bringt es kaum Fortschritte gegenüber dem Basismodell. Gegen sehr große Modelle mit Hunderten Milliarden Parametern verliert es bei schweren Agentenaufgaben weiterhin. Alle Werte sind Herstellerangaben.

Für wen lohnt es sich?

Lohnt sich für Entwickler und Bastler mit einer Grafikkarte ab 24 GB oder einem Mac mit viel Speicher, die einen lokalen Coding-Agenten ohne Cloud-Kosten betreiben wollen – besonders, wenn sie schon Qwen3.8-27B nutzen. Für reine Chat- oder Wissensfragen und für Rechner mit wenig Grafikspeicher ist es eher nicht die erste Wahl.

Ideen: Was du damit anstellen kannst

Lokaler Coding-Agent

Binde das Modell über eine OpenAI-kompatible Schnittstelle in einen Coding-Agenten ein und lass es Fehler in deinem Projekt suchen und beheben. Der Code verlässt dabei nie deinen Rechner.

Skripte für den Alltag

Beschreibe in normalen Worten, was automatisiert werden soll – etwa Fotos umbenennen oder Backups anlegen – und lass dir ein fertiges Bash- oder Python-Skript samt Erklärung schreiben.

Fehlermeldungen per Screenshot

Weil das Modell Bilder versteht, kannst du einfach einen Screenshot einer Fehlermeldung einfügen. Es erklärt die Ursache und nennt die Befehle zur Behebung.

Tests nachrüsten

Gib dem Modell bestehenden Code und lass es Unit-Tests schreiben und ausführen. So bekommst du schnell eine Grundabsicherung für ältere Projekte.

Dokumentation aktualisieren

Lass das Modell mehrere Dateien lesen und eine Anleitung oder README an den aktuellen Stand des Codes anpassen. Das Ergebnis vor dem Übernehmen gegenlesen.

Größe27,8 Mrd. Parameter
Download17 GB (bei 100 MBit/s ca. 23 Min.)
Lizenzapache-2.0
ArtBild + Text (versteht Bilder)

Was dein Rechner braucht

Grafikkarte (NVIDIA) mind. 13 GB VRAM, empfohlen 20 GBz. B. RTX 3090, RTX 4090, Tesla P40
Mac (Apple Silicon M1–M5) ab 32 GB gemeinsamer SpeicherGrafik und Prozessor teilen sich den Speicher – etwa 70 % davon kann das Modell nutzen
Nur Prozessor (ohne Grafikkarte) Ohne Grafikkarte sehr langsamgeschätzt 3 Wörter pro Sekunde auf einem aktuellen Desktop-PC. Dafür mindestens 32 GB Arbeitsspeicher.
Speicherplatz ca. 19 GB freiModell-Download plus Programme
Google Colab läuft kostenlosGratis-GPU Tesla T4 mit 15 GB reicht

Welche Variante passt zu mir?

Viele Modelle gibt es in mehreren Größen oder „Quantisierungen“. Das sind komprimierte Fassungen: kleiner und schneller, dafür minimal ungenauer. Faustregel: Nimm die größte Variante, deren Speicherbedarf in deinen Grafikspeicher (VRAM) passt. Die Skripte unten wählen das automatisch für dich aus.

VarianteDownloadBraucht ca.Passende Grafikkarten
Q2_K 11 GB13 GBz. B. RTX 4060 Ti 16 GB, RTX 4080, RTX 5080, RX 7800 XT
Q3_K_M 13 GB16 GBz. B. RTX 4060 Ti 16 GB, RTX 4080, RTX 5080, RX 7800 XT
Q4_K_M Standard 17 GB20 GBz. B. RTX 3090, RTX 4090, Tesla P40
Q5_K_M 21 GB24 GBz. B. RTX 3090, RTX 4090, Tesla P40
Q6_K 24 GB28 GBz. B. RTX 5090
Q8_0 29 GB33 GBz. B. 2× RTX 3090/4090 oder RTX A6000
BF16 55 GB62 GBz. B. mehrere Profi-GPUs (2× A6000, H100) oder DGX Spark

BF16 (ca. 52 GB) nur für Profi-GPUs wie H200, B200 oder RTX PRO 6000. FP8 (ca. 29 GB) passt auf Karten mit 32 GB wie die RTX 5090. NVFP4 (ca. 23 GB) ist die effizienteste Variante, läuft aber nur auf Blackwell-GPUs (RTX 50er, B200, DGX Spark). Für ältere Karten mit 24 GB oder für Macs ist eine 4-Bit-GGUF-Version (grob 18–20 GB) die beste Wahl.

  • BF16 braucht etwa 52 GB, FP8 etwa 29 GB und NVFP4 etwa 23 GB Grafikspeicher.
  • NVFP4 funktioniert nur auf Nvidia-GPUs der Blackwell-Generation.
  • Offiziell genannte Zielhardware: H200, B200, GB300, RTX PRO 6000, RTX 5090 und DGX Spark – jeweils eine einzelne GPU.
  • Eine 4-Bit-GGUF-Version passt grob auf Karten mit 24 GB oder auf Macs mit mindestens 32 GB gemeinsamem Speicher.
  • Lange Kontexte (bis 262.144 Token) brauchen zusätzlich viel Speicher – bei knappem VRAM das Kontextfenster kleiner einstellen.
Wie finde ich heraus, was mein Rechner hat?
  • Windows: Strg + Umschalt + Esc drücken → Task-Manager → Reiter Leistung → links GPU anklicken. Unten steht Dedizierter GPU-Speicher (das ist dein VRAM). Den Arbeitsspeicher findest du unter Arbeitsspeicher.
  • Mac: Apfel-Menü oben links → Über diesen Mac. Dort stehen Chip (z. B. M2) und Speicher (z. B. 16 GB). Bei Apple-Chips teilen sich Grafik und Prozessor diesen Speicher.
  • Linux: Im Terminal nvidia-smi eingeben (zeigt Grafikkarte und Speicher) und free -h für den Arbeitsspeicher.

Anleitung

Google Colab (im Browser, ohne Installation)

Google Colab ist ein kostenloser Dienst von Google: Du bekommst für ein paar Stunden einen Rechner mit Grafikkarte im Browser. Du brauchst nur ein Google-Konto. Für dieses Modell: läuft kostenlos – Gratis-GPU Tesla T4 mit 15 GB reicht.

  1. Notebook herunterladen. Klick auf den Knopf und speichere die Datei.

    colab.ipynb herunterladen

  2. Colab öffnen. Geh auf colab.research.google.com und melde dich mit deinem Google-Konto an.
  3. Notebook hochladen. Im Fenster, das erscheint, links auf Hochladen klicken (oder oben Datei → Notebook hochladen) und die Datei colab.ipynb auswählen.
  4. Grafikkarte einschalten. Oben im Menü Laufzeit → Laufzeittyp ändern → bei Hardwarebeschleuniger T4-GPU auswählen → Speichern.
  5. Alles starten. Laufzeit → Alle ausführen (Tastenkürzel Strg + F9). Kommt die Warnung „Dieses Notebook wurde nicht von Google erstellt“, auf Trotzdem ausführen klicken.
  6. Warten. Die Zellen laufen nacheinander durch. Links neben jeder Zelle erscheint ein grüner Haken, wenn sie fertig ist. Installation und Download dauern hier etwa 10 Minuten.
  7. Ausprobieren. Das Ergebnis steht unter der letzten Zelle. Um etwas anderes zu testen, den Text in der Zelle ändern und mit Shift + Enter erneut ausführen. Die letzte Zelle startet einen richtigen Chat mit Eingabefeld.
  8. Aufräumen. Wenn du fertig bist: Laufzeit → Sitzung beenden. Das schont dein kostenloses Kontingent.

Gut zu wissen: Die Gratis-GPU ist begrenzt (meist einige Stunden am Tag). Nach rund 90 Minuten ohne Aktivität trennt Colab die Verbindung, dann alles neu starten.

Windows 10 / 11

Am einfachsten geht es mit Ollama, einem kostenlosen Programm, das KI-Modelle mit einem Befehl startet.

  1. Grafikkartentreiber aktualisieren (nur bei NVIDIA-Karten): Die NVIDIA-App bzw. den aktuellen Treiber installieren. AMD-Karten: aktuellen Adrenalin-Treiber nutzen.
  2. Ollama installieren. Auf ollama.com/download/windows die Datei OllamaSetup.exe herunterladen, doppelklicken und Install wählen. Danach sitzt rechts unten in der Taskleiste ein kleines Lama-Symbol.
  3. Eingabefenster öffnen. Windows-Taste drücken, PowerShell eintippen und Enter drücken. Es öffnet sich ein blaues oder schwarzes Fenster.
  4. Modell starten. Diesen Befehl kopieren (Knopf „Kopieren“), mit Rechtsklick ins Fenster einfügen und Enter drücken:
    ollama run hf.co/bartowski/RadixArk_DaisyRose-27B-GGUF:Q4_K_M
    Beim ersten Mal lädt Ollama das Modell herunter (17 GB (bei 100 MBit/s ca. 23 Min.)). Danach geht es sofort.
  5. Losschreiben. Sobald >>> Send a message erscheint, deine Frage eintippen und Enter drücken. Mit /bye beendest du den Chat.

Zu wenig Speicher? Nimm eine kleinere Variante aus der Tabelle oben, z. B. ollama run hf.co/bartowski/RadixArk_DaisyRose-27B-GGUF:Q2_K.

Lieber automatisch? Skript, das die passende Variante selbst auswählt
  1. Beide Dateien in denselben Ordner herunterladen: try_windows.ps1 demo.py
  2. Den Ordner im Explorer öffnen, mit Rechtsklick auf eine freie Stelle In Terminal öffnen wählen.
  3. Diesen Befehl einfügen und Enter drücken:
    powershell -ExecutionPolicy Bypass -File try_windows.ps1

Das Skript installiert Ollama bei Bedarf über winget, misst deinen Grafikspeicher und lädt die passende Variante.

macOS

Ideal sind Macs mit Apple-Chip (M1 bis M5). Ältere Intel-Macs sind sehr langsam.

  1. Ollama installieren. Auf ollama.com/download/mac herunterladen, die Datei öffnen und Ollama in den Ordner Programme ziehen. Ollama einmal starten – oben in der Menüleiste erscheint ein Lama.
  2. Terminal öffnen. Cmd + Leertaste drücken, Terminal eintippen, Enter.
  3. Modell starten. Befehl einfügen (Cmd + V) und Enter:
    ollama run hf.co/bartowski/RadixArk_DaisyRose-27B-GGUF:Q4_K_M
    Beim ersten Mal wird das Modell heruntergeladen (17 GB (bei 100 MBit/s ca. 23 Min.)).
  4. Losschreiben. Frage eintippen, Enter. Mit /bye beenden.
Automatisch die passende Variante wählen

try_mac.sh

cd ~/Downloads
bash try_mac.sh

Linux

  1. Grafikkarte prüfen. nvidia-smi sollte deine Karte anzeigen. Wenn nicht, unter Ubuntu den Treiber installieren und neu starten:
    sudo ubuntu-drivers install
  2. Ollama installieren:
    curl -fsSL https://ollama.com/install.sh | sh
  3. Modell starten:
    ollama run hf.co/bartowski/RadixArk_DaisyRose-27B-GGUF:Q4_K_M
    Mit /bye beenden. Mit ollama ps siehst du, ob das Modell auf der GPU läuft.
  4. Oder automatisch die passende Variante wählen lassen:

    try_linux.sh

    bash try_linux.sh
    # mit Python/transformers statt Ollama:
    MODE=hf bash try_linux.sh

Das kannst du ausprobieren

Erkläre mir, was dieses Bash-Skript macht, und schlage Verbesserungen vor: for f in *.jpg; do convert "$f" -resize 50% "klein_$f"; done
Schreibe ein Python-Skript, das alle CSV-Dateien in einem Ordner einliest, zusammenführt und doppelte Zeilen entfernt. Erkläre jeden Schritt.
Hier ist ein Screenshot einer Fehlermeldung aus meinem Terminal. Was ist die Ursache, und mit welchen Befehlen behebe ich sie?
Ich habe ein Flask-Projekt ohne Tests. Plane Schritt für Schritt, wie du eine Testsuite mit pytest aufbaust, und schreibe die ersten drei Tests für eine Login-Route.
Analysiere diese Funktion auf Fehler bei Randfällen, schreibe sie robuster um und liefere passende Unit-Tests mit: def durchschnitt(liste): return sum(liste)/len(liste)

Tipps für bessere Ergebnisse

  • Für den Denkmodus die Herstellerwerte nutzen: Temperatur 1,0, top_p 0,95, top_k 20.
  • Am meisten bringt das Modell in einem Agenten-Werkzeug mit Terminal- und Dateizugriff, nicht im reinen Chatfenster.
  • Aufgaben klar formulieren: Ziel, betroffene Dateien und gewünschtes Ergebnis (z. B. 'alle Tests grün') nennen.
  • Wer bereits Qwen3.8-27B nutzt, kann DaisyRose als direkten Ersatz eintragen und beide an denselben Aufgaben vergleichen.
  • Auf Servern mit SGLang das DSpark-spekulative Decoding aktivieren, um die Ausgabe zu beschleunigen.

Wenn es hakt

NVFP4-Dateien laufen nicht auf älteren Grafikkarten – auf RTX 30/40 stattdessen FP8 (wenn genug Speicher) oder GGUF verwenden.

Für vLLM und SGLang wird eine aktuelle Version benötigt, die die Qwen3.8-Architektur mit Gated DeltaNet unterstützt; bei Ladefehlern zuerst aktualisieren.

Das empfohlene spekulative Decoding mit SGLang braucht zusätzlich das Entwurfsmodell Qwen3.8-27B-DSpark.

Als Denkmodell erzeugt es lange Gedankengänge vor der Antwort – das kostet Zeit und Kontext, ist aber normal.

Wird der Kontext zu groß eingestellt, reicht der Grafikspeicher nicht; dann Kontextlänge reduzieren.

Es gibt bisher keine unabhängigen Benchmarks – an eigenen Aufgaben mit dem Basismodell vergleichen.

„out of memory“, Absturz oder der Rechner hängt

Das Modell ist zu groß für deinen Grafikspeicher. Nimm eine kleinere Variante aus der Tabelle oben und schließe andere Programme, vor allem Spiele und Browser mit vielen Tabs.

Es läuft, aber extrem langsam

Wahrscheinlich rechnet der Prozessor statt der Grafikkarte. Bei Ollama zeigt ollama ps in der Spalte PROCESSOR, wie viel auf der GPU läuft. Steht dort „100% CPU“, Grafiktreiber aktualisieren oder eine kleinere Variante nehmen, die komplett in den Grafikspeicher passt.

„ollama“ bzw. „python“ wird nicht gefunden

Das Eingabefenster schließen und neu öffnen, damit es das frisch installierte Programm kennt. Bei Python unter Windows: neu installieren und das Häkchen Add python.exe to PATH setzen.

Windows: „Die Ausführung von Skripts ist auf diesem System deaktiviert“

Das Skript genau mit dem Befehl oben starten: powershell -ExecutionPolicy Bypass -File try_windows.ps1. Das erlaubt die Ausführung nur dieses einen Mal.

Fehlermeldung beim Laden des Modells (Version, „trust_remote_code“, unbekannte Architektur)

Ganz neue Modelle brauchen oft die neueste Programmversion. Bei Ollama: Ollama aktualisieren. Bei Python: pip install -U transformers in der aktivierten Umgebung. Die Model Card nennt meist die genaue Version.

Skripte und Notebook erzeugt Tokenstrom automatisch. Bitte vor dem Ausführen kurz ansehen – sie sind lesbarer Klartext. Lizenz des Modells beachten: apache-2.0.

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.