Inception stellt Mercury 3 vor: Diffusions-Sprachmodell mit über 1.000 Token/s

Worum es geht

Das KI-Start-up Inception hat Mercury 3 vorgestellt, nach eigener Aussage das leistungsfähigste bisher veröffentlichte Diffusions-Sprachmodell. Es ist über Inceptions Plattform sowie OpenRouter, Baseten und Vercel erhältlich. Gewichte zum Download werden nicht erwähnt, es handelt sich also um ein API-Modell.

Wie Diffusion bei Text funktioniert

Modelle wie GPT oder Claude schreiben Wort für Wort (autoregressiv): Jedes neue Wort muss auf das vorherige warten. Diffusionsmodelle kennt man vor allem aus der Bildgenerierung. Sie entwerfen zunächst grob die gesamte Antwort und verfeinern sie in mehreren Durchgängen, wobei viele Wörter gleichzeitig entstehen. Daraus soll der Tempovorteil kommen. Das Grundprinzip wird laut The Decoder im technischen Bericht zu Googles DiffusionGemma erklärt.

Geschwindigkeit und Benchmarks

Auf Nvidia-Grafikchips erzeugt Mercury 3 laut Hersteller 1.068 Token pro Sekunde (ein Token ist ein Textbaustein, etwa ein Wort oder Wortteil).

In Inceptions Benchmark-Tabelle gewinnt Mercury 3 acht von zwölf Tests, alle drei Modelle liefen mit mittleren Einstellungen. Der größte Abstand zeigt sich beim Befolgen von Anweisungen: IFBench 76,84 Punkte, 15 mehr als GPT-6 Luna. Im SWE-Bench Atlas (selbstständiges Programmieren) erreicht es 51,08 Punkte, die Konkurrenten 33,33 und 32,26. Claude Haiku 5.5 gewinnt dagegen den längeren Programmiertest DeepSWE und findet Informationen in langen Texten besser wieder; GPT-6 Luna liegt in zwei Tests von Artificial Analysis knapp vorn. Inception formuliert daher vorsichtiger, die Qualität liege „auf Augenhöhe oder besser“. Unabhängige Messungen gibt es noch nicht.

Skalierung

Mercury 3 hat laut Inception mehr als 40-mal so viele Parameter (die beim Training gelernten Stellschrauben) wie Mercury 1, ist aber genauso schnell. Seit dem kleinen Mercury 1 mini habe sich die Leistung verdreifacht. Inception sieht darin einen Hinweis, dass auch Diffusionsmodelle mit der Größe verlässlich besser werden. Die genaue Parameterzahl nennt das Unternehmen nicht.

Anwendungen und Erfahrungen von Partnern

Zielgruppe sind KI-Agenten, Suchdienste, Kundenservice und Nachhilfe – Bereiche, in denen sich viele kleine Wartezeiten summieren. Partner mit frühem Zugang betonen vor allem das Tempo:

• Octen AI (Suche für Datenbrillen): Die Suche selbst dauerte etwa 80 Millisekunden, das Sprachmodell bremste. Mit Mercury 3 lag die Antwort im Median nach 0,9 Sekunden vor, der gesamte Ablauf dauerte 2,2 Sekunden.
• General Learning: Hinweise und Korrekturen für Schüler kommen nach eigenen Angaben in etwa einer Sekunde.
• Lorikeet (Kundenservice): kürzere Antwortzeiten bei besseren Ergebnissen.
• TinyFish AI: 25 von 50 Navigationsaufgaben auf echten Websites gelöst, mehr als GPT-6.1-Sol, ohne Vergleichszahl.

Preise und Verfügbarkeit

Regulär kosten eine Million Input-Token 0,20 US-Dollar und eine Million Output-Token 0,70 US-Dollar. Zum Start sind die Preise halbiert; wann der Rabatt endet, ist unklar. Danach wäre Mercury 3 beim Output bei kürzeren Eingaben teurer als GPT-6 Luna und Claude Haiku 5.5 (je 0,50 US-Dollar), bei sehr langen Prompts verlangen die Konkurrenten aber deutlich mehr. Die OpenAI-kompatible Schnittstelle soll den Umstieg erleichtern.

Hintergrund

Im Februar stellte Inception Mercury 2 vor, nach eigenen Angaben das erste Diffusionsmodell, das vor der Antwort Zwischenschritte durchdenkt. Zuvor sammelte das Start-up 50 Millionen US-Dollar ein, unter anderem von NVentures, M12 und Snowflake Ventures. Auch Google verfolgt den Ansatz: Auf die Demo Gemini Diffusion folgte im Juni das offene DiffusionGemma, laut Google bis zu viermal schneller als Gemma 4, aber etwas schwächer.

Einordnung

Für latenzkritische Anwendungen ist ein Modell mit über 1.000 Token/s interessant, zumal die Qualität mit kleineren Frontier-Modellen mithalten soll. Alle Zahlen stammen jedoch von Inception selbst, der Vorsprung ist laut Quelle weniger eindeutig als die Ankündigung nahelegt, und der Preisvorteil gilt nur zum Teil. Unabhängige Tests müssen zeigen, ob sich die Ergebnisse bestätigen.