Baidu stellt ERNIE 5.5 Flash Preview vor – Gewichte folgen, aber nicht für die EU

Worum es geht

Der chinesische Konzern Baidu hat am 11. November 2026 ERNIE 5.5 Flash Preview vorgestellt. Das ist die erste nachtrainierte Fassung (Post-Training) seines neuen Sprachmodells ERNIE 5.5 Flash. Post-Training heißt: Ein Modell, das bisher nur gelernt hat, Text fortzusetzen, wird so weitertrainiert, dass es Anweisungen befolgt und als Assistent taugt. Die Preview ist ab sofort über die Programmierschnittstelle (API) auf Baidus Cloud-Plattform Qianfan nutzbar. Die Gewichte sollen laut Baidu vor dem 25. November frei veröffentlicht werden.

Die Grundlage ist das Basismodell ERNIE-5.5-Flash-Base, dessen Gewichte Baidu bereits am 5. November auf Hugging Face und ModelScope veröffentlicht hat. Damit stellt Baidu zum ersten Mal seit rund 16 Monaten wieder ein großes Modell frei zur Verfügung: Nach der ERNIE-4.5-Serie im Juni 2025 waren ERNIE 5.0 und 5.1 nicht offen erschienen.

Für Leser in Deutschland gibt es aber einen großen Haken: Die Lizenz schließt die Nutzung in der Europäischen Union ausdrücklich aus (mehr dazu unten).

Eckdaten und Architektur

ERNIE 5.5 Flash ist ein reines Textmodell mit 280 Milliarden Parametern, die als Mixture of Experts (MoE) aufgebaut sind. Bei einem MoE-Modell ist das Wissen auf viele spezialisierte Teilnetze („Experten“) verteilt, und für jedes Wort (Token) wird nur eine kleine Auswahl davon aktiviert. Bei ERNIE 5.5 Flash sind das 14 Milliarden aktive Parameter pro Token. Das Modell rechnet also ungefähr so schnell wie ein 14B-Modell, muss aber komplett im Speicher liegen. Der Kontext, also die Textmenge, die das Modell auf einmal berücksichtigen kann, liegt bei 1 Million Token. Trainiert wurde mit 128.000 Token, für Feintuning und Anwendung werden laut Baidu 1 Million unterstützt.

Technische Details laut Modellkarte (berichtet von Unite.AI und MarkTechPost):

• 43 Schichten, verborgene Größe 4.096, 64 Attention-Köpfe.
• Hybride Attention: 37 Schichten nutzen „Heavily Compressed Attention“ (HCA). Sie speichern im Zwischenspeicher (KV-Cache, eine Art Notizblock des Modells über den bisherigen Text) nur einen Eintrag pro 128-Token-Block plus ein kurzes Fenster der jüngsten Token. Die übrigen 6 Schichten nutzen Multi-head Latent Attention mit dünnbesetzter Auswahl. Sie behalten Zugriff auf den vollen Kontext, wählen aber über einen Indexer nur die relevantesten früheren Stellen aus. Das soll Speicher und Rechenaufwand bei langen Texten drastisch senken.
• 512 Experten pro MoE-Schicht, davon 10 aktiv, plus ein immer aktiver gemeinsamer Experte. Mehrere unabhängige Router verteilen die Token. Die Experten arbeiten in einem auf 2.048 Dimensionen verkleinerten Raum, was laut Baidu den Datenverkehr zwischen den Experten und deren Rechenaufwand etwa halbiert.
• ECHO statt MTP: Die letzte Schicht sagt zusätzlich künftige Token voraus und dient so als eingebautes Entwurfsmodell für spekulatives Decoding. Dabei rät ein schneller Teil mehrere Wörter vor und das Hauptmodell prüft sie auf einmal, was die Ausgabe beschleunigt. ECHO bringt 0,36 Milliarden zusätzliche Parameter mit, die in den 280 Milliarden nicht enthalten sind.
• Training auf 33,5 Billionen Token mit dem Muon-Optimierer und FP8-Mischpräzision. Der Datenbestand enthält neben mehrsprachigen Webdaten viel Code und Entwicklungsverläufe (Commits, Issues, Pull Requests, Reviews, CI-geprüfte Fehlerbehebungen) sowie lange Dokumente für das Training mit langem Kontext.

Dazu hat Baidu die Attention-Kernel FlashMask-4 für Nvidias Hopper- und Blackwell-GPUs veröffentlicht. Auf Blackwell (SM100) sollen sie im Vorwärtsdurchlauf bis zu 175 Prozent und im Rückwärtsdurchlauf 74 Prozent schneller sein als FlashAttention-4 MaskMod. Das sind Herstellerangaben.

Benchmarks: stark, aber vom Hersteller gemessen

Für die Preview nennt Baidu nur allgemein „wettbewerbsfähige“ Werte bei gleichzeitig sehr hoher Ausgabegeschwindigkeit, besonders beim Programmieren, bei 3D-Modellierung, Wissensarbeit und Texterstellung. Konkrete Zahlen liegen für das Basismodell vor. Baidu hat es mit identischen Prompts und Einstellungen gegen andere offene Basismodelle getestet und lag nach eigenen Angaben in 24 von 30 Benchmarks vorn.

Weitere Werte laut MarkTechPost: GPQA 60,2, SimpleQA 34,1 (DeepSeek: 29,1), RepoQA 91,7, LiveCodeBench 40,1. In sechs Tests liegt die Konkurrenz vorn: DeepSeek bei ChineseSimpleQA, INCLUDE-lite, HELMET-Rerank und InfiniteBench, Tencents Hy3 bei BBH mit Chain-of-Thought und FullStackBench. MarkTechPost weist außerdem darauf hin, dass Baidus Messwerte für die Konkurrenz leicht von deren eigenen Angaben abweichen. Bei MMLU-Pro gibt DeepSeek 68,3 an, Baidu misst 69,2.

Zum Größenvergleich: DeepSeek-V4-Flash hat 284 Mrd. Parameter (13 Mrd. aktiv), Hy3-preview 295 Mrd. (21 Mrd. aktiv), MiMo-V2.5 310 Mrd. (15 Mrd. aktiv). Die Modelle spielen also in derselben Klasse.

Die Lizenz: Keine Nutzung in der EU

Während ERNIE 4.5 noch unter der freien Apache-2.0-Lizenz stand, gilt für ERNIE 5.5 Flash eine eigene Lizenz („ERNIE 5.5 Flash Base Model License Agreement v1.0“) mit deutlichen Einschränkungen:

• Räumlich: Das Lizenzgebiet schließt die Europäische Union, Großbritannien und Südkorea aus. Nutzung, Veränderung und Weitergabe außerhalb des Gebiets sind nicht erlaubt.
• Nicht-kommerziell: kostenlos.
• Kommerziell bis 50 Mio. US-Dollar Jahresumsatz mit zugehörigen Produkten: einmalige Meldung an Baidu und gut sichtbarer Hinweis „Powered by ERNIE“.
• Darüber: nur mit vorheriger schriftlicher Genehmigung von Baidu.
• Destillation untersagt: Das Modell, abgeleitete Modelle oder deren Ausgaben dürfen nicht genutzt werden, um andere, nicht verwandte KI-Systeme zu verbessern. Das betrifft etwa das Erzeugen synthetischer Trainingsdaten.

Zum Vergleich: DeepSeek-V4-Flash und Xiaomis MiMo-V2.5 stehen unter der MIT-Lizenz und sind damit deutlich freier nutzbar. Ob für die nachtrainierte Fassung dieselbe Lizenz gilt, hat Baidu noch nicht ausdrücklich gesagt. Wahrscheinlich ist es aber.

Hardware: Nichts für den Heim-PC

Selbst ohne die Lizenzfrage ist das Modell kein Kandidat für den eigenen Rechner. Die Gewichte gibt es in FP8 und BF16. Baidus Referenzkonfigurationen für die Inferenz-Server SGLang und vLLM (ab Version 0.32.0 plus vLLM-ERNIE-Plugin) verteilen das Modell auf vier GPUs (Tensor-Parallelismus 4). Genaue GPU-Modelle und den Speicherbedarf nennt Baidu nicht. Grob gerechnet belegen allein die FP8-Gewichte bei 280 Mrd. Parametern rund 280 GB. Für das komplette Feintuning nutzt Nvidias Megatron-Bridge-Rezept 16 Knoten mit je vier GB300-GPUs. Das Basismodell läuft zudem nur über den Completions-Endpunkt, ist also kein Chatmodell. Für einen Chat wartet man auf die nachtrainierte Fassung.

Einordnung

Technisch ist ERNIE 5.5 Flash ein ernstzunehmender Neuzugang im dicht besetzten Feld chinesischer MoE-Modelle um die 300 Milliarden Parameter. Die stark komprimierte Attention für lange Texte und das eingebaute spekulative Decoding zielen klar auf günstige, schnelle Anwendung mit sehr langen Eingaben, etwa ganze Code-Repositories. Die Benchmarks sind beeindruckend, stammen aber vollständig von Baidu. Unabhängige Tests stehen aus.

Baidu bezeichnet die Preview selbst als Zwischenstand: Das Post-Training laufe noch, und es könne „Fähigkeitsmängel durch unzureichendes Training“ geben. Die finale Version soll auf Basis von Nutzerfeedback verbessert werden.

Der wichtigste Punkt für europäische Nutzer ist aber die Lizenz. Formal sind die Gewichte zwar herunterladbar, die Nutzung in der EU ist jedoch nicht erlaubt. Damit ist ERNIE 5.5 Flash nach gängigem Verständnis kein Open-Source-Modell, sondern ein Modell mit offenen Gewichten unter restriktiven Bedingungen. Baidu begründet den Ausschluss nicht. Naheliegend ist ein Zusammenhang mit Regulierung wie dem EU AI Act, belegt ist das aber nicht. Für Entwickler hierzulande bleiben DeepSeek, MiMo oder Qwen die praktischere Wahl.