Clover-35B: Diffusions-Sprachmodell soll als Agent doppelt so schnell sein wie Jev

Worum es geht

Das Start-up Diffusion Intelligence (扩散智能) hat am 29. Oktober 2026 das Sprachmodell Clover-35B-A3B-Preview vorgestellt. Es gehört zu den Diffusions-Sprachmodellen: Das Prinzip kennt man von Bild- und Videogeneratoren, hier wird es auf Text, Code und Agentenaufgaben übertragen. Laut dem Bericht von QbitAI fühlt sich die Nutzung wie bei einem gewöhnlichen Sprachmodell an – nur sehr viel schneller. Die Autoren berichten, ein interaktiver Sonnensystem-Simulator sei nach etwa einer Sekunde Denkzeit und 4–5 Sekunden Generierung fertig gewesen, ein LaTeX-Lebenslauf aus rohen Angaben nach etwa zehn Sekunden.

Wichtig: Die Angaben stammen vom Hersteller bzw. aus einer wohlwollenden Erstvorstellung. Unabhängige Tests liegen laut Quelle nicht vor.

Technik: Wie ein Diffusionsmodell Text erzeugt

Gewöhnliche („autoregressive“) Sprachmodelle sagen anhand des bisherigen Textes das nächste Token voraus – ein Token ist ein Textschnipsel, mit dem das Modell arbeitet. Sie schreiben also eines nach dem anderen, ähnlich einem Wortketten-Spiel. Diffusionsmodelle aktualisieren stattdessen mehrere Positionen gleichzeitig und verfeinern das Ergebnis in mehreren Runden: Verdeckte oder gestörte Inhalte werden schrittweise zu passendem Text „entrauscht“.

Clover nutzt dabei Block-Diffusion. Der Ausgabetext wird in Blöcke zerlegt, die nacheinander entstehen; innerhalb eines Blocks werden mehrere Positionen parallel berechnet und können sich gegenseitig berücksichtigen (bidirektionale Attention, also Aufmerksamkeit in beide Richtungen). Der Haken: Paralleles Erzeugen heißt nicht, dass eine Runde reicht. Zu wenige Runden lassen das Ergebnis unfertig, mehr Runden kosten Rechenzeit. Bei Code und Agenten wächst zudem der Kontext ständig – Anforderungen, bisherige Aktionen, Tool-Ergebnisse –, sodass das Speichern und Lesen der Historie zum Effizienzproblem wird.

CloVers Lösung trennt Gedächtnis und Gegenwart: Das Team baute das Gated Delta Network (GDN) für Block-Diffusion um. Bereits erzeugter Kontext wird in einen fortlaufend aktualisierten Zustand komprimiert, den spätere Schritte auslesen. Der aktuelle Block nutzt bidirektionale Attention. Das Auslesen der Historie wird als eigene Informationseinheit zusammen mit den aktuellen Tokens in die Attention einbezogen, sodass das Modell selbst lernt, Vergangenheit und Gegenwart zu gewichten. Eine lernbare Kalibrierung der Blockgröße soll verhindern, dass die Historie bei größeren Blöcken „verdünnt“ wird.

Modell und Leistungsdaten

Clover ist ein Mixture-of-Experts-Modell (MoE): Es besteht aus vielen spezialisierten Teilnetzen, von denen pro Token nur ein Teil arbeitet. Insgesamt sind es 35 Mrd. Parameter (grob die beim Training gelernten Stellschrauben), aktiv etwa 3 Mrd. pro Token. Der Vorgänger Dream 7B hatte 7 Mrd. Parameter. Laut Bericht sinkt die Geschwindigkeit trotz der Größe nicht; bei gleicher Größe liege Clover vor autoregressiven Modellen.

Im Web-Agent-Benchmark WindTunnel (49 Aufgaben, je 3 Versuche) betrug die mediane Ausführungszeit 1,52 Sekunden. Die Kombination Jev + Mercury 2.5 brauchte 3,21 Sekunden, also mehr als doppelt so lange. Die Erfolgsrate lag bei 98,6 % (Clover) gegenüber 95,9 %. Gegenüber Gemini sei Clover „um ein Vielfaches“ schneller; in einer Demo schlug es Gemini 3.6 Flash bei Geschwindigkeit deutlich. Zum Vergleich: Jev ist laut einer weiteren Quelle ein leichtes Entscheidungsmodell für Agenten-Abläufe (Modell-Routing, Sicherheitsprüfungen, Ranking), kein Allzweck-Sprachmodell – der Vergleich ist also eher einer von Gesamtsystemen als von Modell zu Modell.

Agenten-Demos

Über WebMCP (ein Weg, Webseiten für Agenten bedienbar zu machen) bearbeitete Clover nacheinander sechs Aufgaben: Rechnung erstellen, Kursanmeldung, Beträge summieren, Veranstaltungsstatus abfragen sowie Kunden- und Rechnungsinformationen. In einem Shop-Szenario fand es ein schwarzes T-Shirt in Größe L, legte es in den Warenkorb, trug Gastdaten ein und durchlief einen Test-Checkout.

Das ist bemerkenswert, weil Diffusionssprachmodelle bei Agentenaufgaben bisher als unzuverlässig galten: Tool-Aufruf-Formate gingen schief, und Modelle wiederholten denselben Schritt, statt auf Rückmeldungen zu reagieren. Clover soll den Kreislauf aus Tool aufrufen, Feedback lesen, weitermachen bis zum Ziel meistern.

Team und Ausblick

Diffusion Intelligence wurde von Prof. Kong Lingpeng (Universität Hongkong) und seinen Doktoranden Gong Shansan und Ye Jiacheng gegründet. 2022 stellten sie DiffuSeq vor, Diffusion für Text-zu-Text-Aufgaben; im April 2025 war das Kernteam an Dream 7B beteiligt, das bei Allgemeinwissen, Mathematik und Code mit gleich großen autoregressiven Modellen vergleichbar war. Geplant sind eine multimodale Clover-Version, Kombination mit Handlungsgenerierung, größere Modelle, stabilere Langzeitaufgaben sowie Inferenzoptimierung, Quantisierung und Anpassung für Endgeräte; mit Acrab läuft eine Kooperation zur Hard-/Software-Abstimmung. Zum Ausprobieren verweist der Bericht auf eine Registrierungsseite (diffuspace.ai).

Einordnung

Diffusionssprachmodelle sind ein Gegenentwurf zum Standardverfahren; Konkurrenz kommt unter anderem von ELF (mit He Kaiming) und Googles DiffusionGemma. Clover ist ein früher Versuch, diesen Ansatz auf Agenten und Programmieren zu bringen, mit Zahlen, die für ein „Preview“ stark klingen. Offene Fragen: Es gibt keine unabhängige Überprüfung, die Speed-Vergleiche nutzen ausgewählte Szenarien, und aus der Quelle ist weder eine Lizenz noch ein Download der Gewichte ersichtlich – wir führen es daher nicht als Open-Weights-Modell. Wer Agenten bauen will, sollte beobachten, ob die Latenzvorteile in realen, längeren Aufgaben bestehen bleiben.