Ling 3.1 Flash: 560-Milliarden-Modell von InclusionAI unter MIT-Lizenz

Worum es geht

InclusionAI, das KI-Labor der Ant Group (bekannt durch Alipay), hat mit Ling 3.1 Flash ein großes Sprachmodell als Open-Weight-Modell veröffentlicht. „Open Weight“ heißt: Die trainierten Gewichte – grob gesagt die Stellschrauben, die das Modell beim Training gelernt hat – kann man herunterladen und selbst betreiben. Laut der Modellkarte, auf die sich der Bericht von Techapple stützt, erschienen sie am 16. Oktober 2026 unter der freizügigen MIT-Lizenz, im fp8-Format (8-Bit-Gleitkommazahlen, sparen Speicher gegenüber 16 Bit). Gleichzeitig gibt es fertige Startrezepte für die Inferenz-Frameworks SGLang und vLLM, also die Programme, mit denen man solche Modelle auf Servern ausführt.

Wichtig zur Einordnung: Das Modell war schon vorher bekannt. Ant hatte es am 30. September 2026 angekündigt und zunächst nur im eigenen Produkt und über die eigene API angeboten. Ein Bericht von OrcaRouter, der Mitte Oktober entstand, hielt noch ausdrücklich fest, dass es keine Gewichte, keine Modellkarte und keine Lizenz gab. Die jetzige Veröffentlichung folgt also dem Plan, den Ant selbst genannt hatte.

Architektur: groß, aber sparsam

Ling 3.1 Flash ist ein Mixture-of-Experts-Modell (MoE). Man kann es sich wie ein Team von Spezialisten vorstellen: Das Modell enthält sehr viele Fachbereiche („Experten“), aber für jedes Wort (Token) werden nur wenige befragt. Das spart Rechenaufwand.

• Parameter: rund 560 Mrd. insgesamt, etwa 25 Mrd. aktiv pro Token – ein Verhältnis von etwa 1 zu 22.
• Experten: 512 geroutete Experten plus 1 geteilter, der immer mitarbeitet. Laut OrcaRouter (Quelle: Ants Ankündigung) wählt jedes Token davon 8 aus.
• Aufmerksamkeit: ein hybrider Aufbau aus 63 KDA-Schichten und 9 Gated-MLA-Schichten. KDA steht für Kimi Delta Attention, eine „lineare“ Aufmerksamkeit, deren Rechenaufwand bei langen Texten nur proportional wächst statt quadratisch. Die Gated-MLA-Schichten behalten einen globalen Überblick über den gesamten Text. Das ergibt ein Verhältnis von 7 linearen auf 1 globale Schicht.
• Kontext: Ausgelegt ist das Modell auf 1 Million Token. Das ist ungefähr der Umfang mehrerer dicker Bücher, die das Modell gleichzeitig „im Blick“ haben kann.

Zum Vergleich: Der Vorgänger Ling-3.0-flash hat 124 Mrd. Parameter, davon 5,1 Mrd. aktiv. Ling 3.1 Flash ist also etwa viereinhalbmal so groß und aktiviert rund fünfmal so viele Parameter pro Token.

Leistung laut Hersteller

Die offiziellen Zahlen nennen zwei Programmier-Benchmarks:

Beide Tests prüfen, ob ein Modell echte Softwareentwicklungsaufgaben lösen kann. Unabhängige Nachmessungen lagen in den Quellen nicht vor. Ants Ankündigung nennt außerdem Langzeit-Ergebnisse, etwa einen Compiler von Lua nach x86-64-ELF, der in rund 17 Stunden ohne Unterbrechung entstand und 178 von 182 Tests bestand (97,8 %). Bei einer Pyright-Optimierung über rund 10 Stunden erreichte das Modell 1,432-fache Geschwindigkeit bei allen 2.279 bestandenen Tests. Auch das sind Herstellerzahlen auf selbst definierten Aufgaben; die Vergleichswerte der Konkurrenz sind dort ausdrücklich nur „aufgelistet“, kein direkter Vergleich unter gleichen Bedingungen.

Positioniert ist das Modell für lange, reale Aufgaben: Büroarbeit von der vagen Anfrage bis zum fertigen Ergebnis, stundenlange Softwareentwicklung und Agenten, die nacheinander Werkzeuge aufrufen und sich selbst korrigieren. Es verarbeitet nur Text; für Bilder verweist Ant auf Ling-3.0-flash-VL.

Kontext: 1 Million oder 256K?

In der Testphase lief der Dienst mit 256K Token. Ants Plan war, nach Ende der kostenlosen Phase das volle 1M-Fenster zu öffnen und das Modell gleichzeitig als Open Source freizugeben. Ob die nun veröffentlichten Gewichte volle 1M nutzbar machen, geht aus den Quellen nicht hervor. Auch Datenträger-Kosten für so langen Kontext bleiben offen. Plane im Zweifel mit 256K.

Was du zum Ausprobieren brauchst

Das ist kein Modell für den Heim-PC. Allein die fp8-Gewichte dürften mehrere hundert Gigabyte groß sein (560 Mrd. Parameter ≈ 560 GB bei 8 Bit). Selbst bei 4-Bit-Quantisierung sind es grob 280 GB plus Platz für den Kontext. Realistisch sind ein Multi-GPU-Server mit mehreren 80-GB-Karten oder ein Cloud-Cluster, dazu ein entsprechend großer Arbeitsspeicher und Speicherplatz. Auf Mac, normaler CPU oder Google Colab Gratis-Stufe läuft es nicht sinnvoll. Ob GGUF-Versionen oder ein Ollama-Eintrag existieren, geht aus den Quellen nicht hervor. Für kleinere Hardware ist der Vorgänger Ling-3.0-flash oder Ling-3.0-tiny sinnvoller.

Einordnung

Ein MIT-lizenziertes Modell dieser Größe mit starken Coding-Werten ist für Firmen und Forschungsgruppen mit eigener GPU-Infrastruktur interessant, weil sie es ohne Lizenzhürden betreiben und anpassen dürfen. Die Veröffentlichung fällt in eine Welle günstiger, offener, agentenfähiger Modelle, zu der laut Techapple auch DeepSeek V4.1-Flash-1017 und Tencents Hy Memory 2.0 gehören. Kritisch bleibt: Alle Benchmarkzahlen stammen vom Hersteller, die Diagramme in Ants Ankündigung enthalten keine zitierbare Einzelwerte-Tabelle, und die Quellenlage ist nicht ganz eindeutig – ein älterer Bericht verneinte die Veröffentlichung noch. Wir stützen uns auf die Modellkarte laut Techapple; ein eigener Blick ins Repository lohnt vor dem Einsatz. Für Privatanwender hat das Modell wegen seiner Größe kaum praktischen Nutzen.