Qwen3.8-27B: Alibabas kompaktes Open-Modell erreicht fast die Leistung von Riesen

Worum es geht

Alibabas Qwen-Team hat die Gewichte von Qwen3.8-27B auf Hugging Face und ModelScope veröffentlicht. Die Freigabe erfolgte im August 2026. Alibaba nennt die Reihe die bisher leistungsfähigste Generation seiner offenen Qwen-Modellfamilie. Das Modell hat 27 Milliarden Parameter und ist damit deutlich kleiner als die Spitzenmodelle der chinesischen Konkurrenz. Trotzdem kommt es ihnen in Vergleichstests erstaunlich nahe.

Das Modell steht unter der freizügigen Apache-2.0-Lizenz. Man darf es also auch kommerziell nutzen, verändern und weitergeben. Es verarbeitet Text, Bilder, Videos und Dokumente. Nach Alibabas Angaben läuft es auf Consumer-Hardware und quantisiert sogar auf einem Laptop.

Klein gegen Riesig: die Zahlen

Das unabhängige Analysehaus Artificial Analysis hat Qwen3.8-27B getestet, wie die South China Morning Post berichtet. Im Artificial Analysis Intelligence Index, einem Sammelwert aus vielen Einzeltests, liegt es demnach gleichauf mit OpenAIs GPT-5.6 Luna. Auch an deutlich größere offene Modelle kommt es nah heran:

Alibaba hat außerdem eigene Benchmark-Werte veröffentlicht. Laut Modellkarte erreicht Qwen3.8-27B 73,0 Punkte auf Terminal-Bench 2.1, einem Test für Aufgaben in der Kommandozeile, und 61,7 auf SWE-bench Pro, bei dem echte Programmierfehler aus Softwareprojekten behoben werden müssen. Gegenüber früheren Qwen-Versionen sind das Verbesserungen beim Programmieren und bei Agenten-Aufgaben.

Diese Zahlen sind mit Vorsicht zu lesen. Laut eWeek weist MLQ.ai darauf hin, dass die Veröffentlichung keinen vollständigen, fairen Vergleich enthält, bei dem Qwen3.8-27B, ältere Qwen-Modelle und Konkurrenten mit denselben Eingaben, Testsystemen und zum selben Zeitpunkt geprüft wurden. Bis breitere Tests vorliegen, sind die Werte also Herstellerangaben. Besonders bei Agenten-Aufgaben gilt: Wer in Coding-Benchmarks gut abschneidet, kann trotzdem bei langen Ketten von Werkzeugaufrufen oder sich ändernden Anweisungen scheitern.

Was das Modell technisch mitbringt

Qwen3.8-27B baut auf der Architektur von Qwen3.5 auf und ist ein dichtes Modell. Anders als bei Mixture-of-Experts-Modellen (MoE), die pro Wort nur einen Teil ihres Netzes nutzen, rechnen bei jedem erzeugten Token alle 27 Milliarden Parameter mit. Das Kontextfenster, also die Textmenge, die das Modell auf einmal im Blick behalten kann, umfasst nativ 262.144 Token. Mit dem Verfahren YaRN, einer Technik zur Streckung des Kontexts, sind bis zu einer Million Token möglich.

Der Denkmodus ist standardmäßig eingeschaltet. Dabei „überlegt“ das Modell sichtbar, bevor es antwortet. Laut Modellkarte lässt er sich pro Anfrage abschalten, und mit dem Parameter „reasoning_effort“ kann man einstellen, wie gründlich das Modell nachdenkt. Zu den Einsatzgebieten zählt Alibaba Programmierhilfe, Bild- und Videoverständnis, lange Dokumente und mehrstufige Agenten-Abläufe mit Werkzeugen.

Zusammen mit dem 27B-Modell hat Alibaba auch Qwen3.8-2.4T-A95B veröffentlicht, ein MoE-Modell der Max-Klasse mit 2,4 Billionen Parametern, von denen 95 Milliarden pro Token aktiv sind.

Läuft lokal, aber nicht unbedingt schnell

Durch Quantisierung schrumpft das Modell auf eine Datei von etwa 17 GB. Dabei werden die Zahlen im Modell gröber gespeichert, was etwas Qualität kosten kann. Der Entwickler Simon Willison hat eine solche Version auf einem MacBook Pro mit M5 Max und 128 GB Arbeitsspeicher sowie auf einer Nvidia DGX Spark getestet. Programmieren, Bildverständnis und Werkzeugnutzung funktionierten. Auf beiden Geräten fühlte sich das Modell aber langsam an. Der Grund: Dichte Modelle brauchen viel Speicherbandbreite, also schnellen Datentransport zwischen Speicher und Recheneinheit. Willison kritisierte außerdem, dass die standardmäßig hohe Denkstufe selbst bei einfachen Aufgaben unnötig viel Rechenzeit verbraucht.

Ausführliche Messungen veröffentlichte ein japanischer Tester auf note.com:

• Mit der Quantisierung Q3_K_XL schafft eine Intel-Karte vom Typ B70 rund 25,4 Token pro Sekunde bei der Textausgabe. Ein Update der Inferenz-Software llama.cpp (Build b11876 auf b11985) brachte beim Einlesen nur etwa 1,5 Prozent mehr Tempo.
• Bei kurzen Anfragen war eine RTX 4070 Ti SUPER am schnellsten, vor B70 und RTX 5060.
• Zwei Grafikkarten gleichzeitig waren nicht schneller als die 4070 allein.
• Lange Texte sind teuer: Mit Q4_K_M sank die Einlesegeschwindigkeit (Prefill) auf der B70 von 93,6 Token pro Sekunde bei rund 123.000 Token auf 41,2 bei rund 254.000 Token. Ein einzelner Durchlauf mit 256K Kontext dauerte etwa 1 Stunde und 43 Minuten.

Zusätzlich erwähnt der Tester einen Community-Bericht über 48,8 Token pro Sekunde auf einer RTX 5060 Ti. Der entstand aber unter anderen Bedingungen, nämlich unter Linux, mit 49K Kontext und Multi-Token-Prediction, bei der mehrere Token auf einmal vorhergesagt werden.

Noch kleiner: Bonsai 2 27B

Das US-Unternehmen PrismML hat auf Basis von Qwen3.8-27B die Variante Ternary Bonsai 2 27B herausgebracht. Laut GIGAZINE ist sie nur 5,9 GB groß, neunmal kleiner als das Original in voller Präzision. Nach PrismMLs Angaben erreicht sie trotzdem 98,2 Prozent der gesamten Benchmark-Leistung. „Ternär“ heißt, dass die Gewichte nur drei mögliche Werte annehmen. Damit kommen laut Bericht schon Grafikkarten mit 8 GB VRAM infrage, außerdem Macs, iPads und iPhones. Auch Bonsai 2 steht unter Apache 2.0 auf Hugging Face.

Lizenz-Haken beim großen Bruder

eWeek weist auf eine Zweiteilung bei den Lizenzen hin. Das 27B-Modell ist frei nutzbar. Das Max-Modell Qwen3.8-2.4T-A95B dagegen steht unter Alibabas eigener Qwen3.8-Max-Lizenz. Unternehmen, die damit einen „Model as a Service“ oder einen „KI-Arbeitsassistenten“ betreiben, brauchen eine separate Lizenz, sobald ihr Gesamtumsatz in zwölf aufeinanderfolgenden Monaten 50 Millionen US-Dollar übersteigt. Für interne Nutzung gilt das nicht. Die Alternative ist Alibabas Cloud-API für 2 Dollar pro Million Eingabe-Token. eWeek deutet das als Strategie: Das freie 27B-Modell holt Entwickler ins Qwen-Ökosystem, und wer groß wird, zahlt später. Nach Alibabas Angaben gibt es inzwischen mehr als 460 Qwen-Modelle mit über 3 Milliarden Downloads und mehr als 300.000 abgeleiteten Modellen.

Was du zum Ausprobieren brauchst

• Grafikkarte: Für die gängige 4-Bit-Version (ca. 17 GB) brauchst du realistisch eine Karte mit mindestens 20 GB VRAM, etwa 24 GB. Mit stärkerer Quantisierung (Q3) laufen laut den note.com-Tests auch Karten der Klasse RTX 4070 Ti SUPER, dann teils mit Auslagerung in den Arbeitsspeicher.
• Kleine Karten (8 GB): Hier ist Bonsai 2 27B (5,9 GB) die naheliegende Wahl.
• Mac: Apple Silicon mit viel gemeinsamem Speicher funktioniert, Willison nutzte 128 GB. Das Tempo ist eher gemächlich.
• Arbeitsspeicher und Platz: Plane mindestens 32 GB RAM und rund 20 bis 30 GB freien Speicherplatz ein. Lange Kontexte brauchen deutlich mehr Speicher.
• Reine CPU: Das geht grundsätzlich, ist bei einem dichten 27B-Modell aber sehr langsam.

Einordnung

Qwen3.8-27B ist ein starkes Signal, dass Größe nicht alles ist. Ein Modell, das auf einem gut ausgestatteten Heim-PC läuft, kommt in unabhängigen Indizes in die Nähe von Systemen mit Hunderten Milliarden Parametern. Für Entwickler, Forschende und kleinere Firmen, die Daten nicht in die Cloud geben wollen, ist das attraktiv, zumal die Apache-2.0-Lizenz kaum Einschränkungen macht.

Es gibt aber auch Vorbehalte. Die eigenen Benchmarks stammen vom Hersteller und sind nicht sauber vergleichbar. Lokal heißt außerdem nicht schnell: Tests von Willison und auf note.com zeigen spürbare Wartezeiten, besonders bei langen Texten und aktiviertem Denkmodus. Hinzu kommen Kosten für Hardware, Strom und Know-how. Wer nur gelegentlich KI braucht, fährt mit Cloud-Diensten unter Umständen günstiger.