Maxwell-V1.0-Flash: Offenes 35B-MoE-Modell schlägt Qwen beim Programmieren
Das Entwicklerteam Maxwell hat mit Maxwell-V1.0-Flash ein frei herunterladbares Sprachmodell veröffentlicht. Es hat 35 Milliarden Parameter, von denen pro Token nur rund 3 Milliarden aktiv sind, und steht unter der Apache-2.0-Lizenz. Anders als viele Konkurrenten ist es kein umtrainiertes Qwen: Das Team hat es nach eigenen Angaben von Grund auf selbst trainiert und schneidet bei Programmier- und Agentenaufgaben laut eigenen Tests etwas besser ab als Qwen3.6-35B-A3B.

Worum es geht
Ein Entwicklerteam namens Maxwell hat das Sprachmodell Maxwell-V1.0-Flash veröffentlicht. Darüber berichtet die taiwanische Zeitung Liberty Times (自由時報). Die Gewichte stehen unter der Apache-2.0-Lizenz, die sehr großzügig ist: Jeder darf das Modell kostenlos herunterladen, selbst betreiben, weitertrainieren und auch kommerziell nutzen. Die Dateien liegen auf Hugging Face, der Quellcode und eine Anleitung zum Betrieb auf GitHub. Wer keine passende Hardware hat, kann das Modell in einem Online-Playground des Teams testen.
Bemerkenswert ist vor allem die Herkunft. Viele „neue“ offene Modelle sind eigentlich nur nachtrainierte Fassungen von Qwen oder Llama. Maxwell sagt dagegen, das Modell selbst entworfen und von Grund auf trainiert zu haben, und hat die Technik vom Vortraining bis zum Nachtraining dokumentiert.
Aufbau: viele Experten, wenig Rechenaufwand
Maxwell-V1.0-Flash hat 35 Milliarden Parameter. Pro Token, also pro Wortstück, rechnen aber nur rund 3 Milliarden davon mit. Das liegt an der Mixture-of-Experts-Architektur (MoE): Das Modell besteht aus vielen spezialisierten Teilnetzen, den „Experten“, und ein Verteiler entscheidet für jedes Token, welche davon gebraucht werden. Man kann es sich wie eine große Firma vorstellen, in der zu jeder Anfrage nur die zuständige Abteilung arbeitet.
Die Details laut Hersteller:
- 45 Transformer-Schichten, 42 davon im MoE-Aufbau
- 256 Experten pro Schicht, von denen 12 pro Token ausgewählt werden
- dazu 2 geteilte Experten, die immer mitlaufen und allgemeines Wissen abdecken
- ein Kontextfenster von bis zu 256.000 Token, also das Textvolumen, das das Modell auf einmal überblickt. Das entspricht mehreren dicken Büchern.
Für lange Texte hat das Team eine eigene blockweise sparsame Attention entwickelt. Attention ist der Mechanismus, mit dem ein Sprachmodell Beziehungen zwischen allen Wörtern eines Textes berechnet. Bei langen Dokumenten wird das sehr teuer. Die sparsame Variante rechnet deshalb nicht jedes Mal alle Wortpaare neu durch, sondern nur ausgewählte Blöcke. Nach Herstellerangaben läuft das in einem bestimmten Test mit 256K Kontext 6,7-mal schneller als herkömmliche, dichte Attention.
So wurde trainiert
Vortrainiert wurde laut Maxwell mit rund 26 Billionen Token mehrsprachiger Daten. Dabei kamen zwei Techniken zum Einsatz:
- der Muon-Optimierer, ein neueres Verfahren, das festlegt, wie die Gewichte beim Training Schritt für Schritt angepasst werden, und das als effizienter als das Standardverfahren Adam gilt
- die Multi-Token-Vorhersage: Das Modell lernt, mehrere kommende Token auf einmal vorherzusagen statt nur das nächste
Danach folgten zwei Runden überwachtes Feintuning (das Modell lernt aus Beispielantworten), Reinforcement Learning (es wird für gute Lösungen belohnt) und Multi-Teacher-Distillation, bei der mehrere stärkere „Lehrer“-Modelle ihr Können an das kleinere Modell weitergeben. So sollen vor allem logisches Denken, Programmieren und der Umgang mit Werkzeugen besser werden.
Eine Besonderheit ist der Tokenizer, also der Baustein, der Text in Wortstücke zerlegt. Er wurde eigens für südostasiatische Sprachen wie Thai, Laotisch, Burmesisch und Khmer ausgelegt. Diese Sprachen werden von vielen Modellen in unnötig viele Stücke zerhackt, was Rechenzeit kostet. Die Liberty Times weist darauf hin, dass all diese Angaben vom Team selbst stammen. Die genauen Datenquellen und der Trainingsverlauf sind nicht unabhängig überprüft.
Benchmarks: stark beim Programmieren, nicht überall vorne
In den offiziellen Tests liegt das Modell vor allem bei Programmier- und Agentenaufgaben gut:
| Benchmark | Was gemessen wird | Maxwell-V1.0-Flash | Vergleich |
|---|---|---|---|
| SWE-Bench Verified | echte Fehler in Software-Projekten beheben | 65,4 % | Qwen3.6-35B-A3B: 63,4 % |
| Terminal-Bench | Aufgaben auf der Kommandozeile | 58,65 % | laut Team vor Muse Glimmer und ähnlich großen Modellen |
| BrowseComp | Rechercheaufgaben im Web | 76,3 % (82,2 % mit Kontextverwaltung) | – |
Es gibt aber auch Schwächen. Beim Befolgen von Anweisungen und in längeren Dialogen liegt Maxwell in einigen Tests hinter Gemma und Muse Glimmer. Die Basisversion, also das Modell vor dem Nachtraining, schneidet in den chinesischen Wissenstests CMMLU und C-Eval schlechter ab als das Basismodell von Qwen3.5. Auch diese Zahlen kommen alle vom Hersteller. Ob sie unter gleichen Bedingungen bei Dritten herauskommen, ist noch offen.
Was du zum Ausprobieren brauchst
Nur 3 Milliarden aktive Parameter klingen nach wenig, aber das täuscht. Damit das Modell schnell rechnet, müssen alle 35 Milliarden Parameter im Speicher liegen. Die veröffentlichten Dateien sind etwa 73,6 GB groß. Das Team empfiehlt den Betrieb mit vLLM, einer Software, die Sprachmodelle auf Servern effizient bereitstellt, und zwar auf einer einzelnen NVIDIA B300 oder auf mindestens zwei H100. Das ist Rechenzentrums-Hardware. Eine normale Gaming-Grafikkarte mit 24 GB VRAM kann das Modell in dieser Form nicht vollständig laden, das betont auch die Liberty Times.
Für Heimanwender wird es interessant, sobald verkleinerte Fassungen erscheinen. Bei der Quantisierung werden die Zahlen des Modells gröber gespeichert, und mit 4 Bit bräuchte ein 35B-Modell grob geschätzt um die 22 bis 24 GB. Dazu kommt Speicher für lange Kontexte. Offizielle quantisierte Versionen (zum Beispiel GGUF für llama.cpp, LM Studio oder Ollama) nennen die Quellen nicht. Bei MoE-Modellen dieser Größe ist es in der Regel möglich, einen Teil der Experten in den normalen Arbeitsspeicher auszulagern. Das geht dann auch auf kleineren Karten oder auf Macs mit viel gemeinsamem Speicher, läuft aber langsamer. Konkrete Werte dafür gibt es noch nicht. Ohne passende Hardware ist der Online-Playground des Teams der einfachste Weg.
Einordnung
In der Klasse um 35 Milliarden Parameter mit etwa 3 Milliarden aktiven gibt es viel Konkurrenz, allen voran Qwen3.6-35B-A3B. Ein neues Modell, das dort nach eigenen Messungen mithält, ist schon deshalb bemerkenswert, weil es nicht von Qwen abstammt. Eine eigene Architektur, ein eigenes Trainingsrezept und eine offene Lizenz bringen echte Vielfalt in den Markt der offenen Modelle. Der Tokenizer für südostasiatische Sprachen könnte für Nutzer in dieser Region einen praktischen Vorteil bringen.
Kritisch bleibt Folgendes: Die Benchmark-Vorsprünge sind klein (65,4 gegenüber 63,4 % bei SWE-Bench) und bisher nicht unabhängig bestätigt. Beim Befolgen von Anweisungen und im Dialog liegt das Modell nach eigenen Zahlen teils zurück. Zudem bedeuten offene Gewichte nicht, dass Trainingsdaten und Trainingsprozess vollständig offenliegen. Wer hinter dem Team Maxwell steht, geht aus der Quelle nicht hervor. Ob sich das Modell durchsetzt, entscheiden unabhängige Tests und die Erfahrungen von Entwicklern im Alltag.
Videos zum Thema
Quellen
- Google News (TW) news.ltn.com.tw
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.