Thinking Machines gibt Inkling 2 Small frei: 594-Mrd.-MoE unter Apache 2.0

Worum es geht

Thinking Machines Lab, das KI-Labor der früheren OpenAI-Technikchefin Mira Murati, hat am 12. November 2026 die Gewichte seines neuen Sprachmodells Inkling 2 Small zum Download freigegeben. Vorgestellt wurde das Modell bereits am 5. November – allerdings zunächst nur über Tinker, die hauseigene Cloud-Plattform, auf der Entwickler das Modell nutzen und nachtrainieren können, ohne die Dateien selbst herunterzuladen. Jetzt liegen die Modelldateien auf Hugging Face, dazu kommen zahlreiche API-Anbieter und Software-Integrationen. Der Anbieter Together AI führt das Modell unter der Apache-2.0-Lizenz – einer freizügigen Lizenz, die Nutzung, Veränderung und kommerzielle Produkte ausdrücklich erlaubt.

Ein kleines Datums-Wirrwarr gibt es laut superpowerdaily: Together nennt in seinem Katalog den 4. November als Veröffentlichungsdatum, die offizielle Vorstellung des Labors ist auf den 5. November datiert, und der Download kam erst mit dem Update vom 12. November.

„Small“ ist relativ: so ist das Modell aufgebaut

Trotz des Namens ist Inkling 2 Small riesig: 594 Milliarden Parameter. Es ist aber ein Mixture-of-Experts-Modell (MoE) – man kann sich das wie ein großes Team von Spezialisten vorstellen, von denen für jede Aufgabe nur wenige gefragt werden. Konkret besteht das Modell aus 384 Experten-Bausteinen, von denen für jedes Token (ein Wortbestandteil) nur acht ausgewählt werden. Dadurch sind pro Token nur 17 Milliarden Parameter aktiv. Das macht die Berechnung schneller und günstiger – der Speicherbedarf bleibt aber der eines 594-Milliarden-Modells, denn alle Experten müssen geladen sein.

Weitere Eckdaten:

• Multimodal: Das Modell versteht Text und Bilder, aber kein Audio. Für Bilder nutzt es laut dem japanischen Blog note.com einen eigenen Bild-Encoder mit 292 Millionen Parametern, basierend auf dem „Perception Encoder“.
• Kontextfenster von einer Million Tokens – so viel Text kann das Modell gleichzeitig im Blick behalten, grob mehrere dicke Bücher.
• Einstellbare Denktiefe („variable effort“): Pro Anfrage lässt sich festlegen, wie gründlich das Modell nachdenkt – schneller und billiger oder langsamer und sorgfältiger.

Im Vergleich zu den Vorgängern liegt das Modell größenmäßig in der Mitte: Das erste Inkling vom 15. Juli 2026 hatte laut Crypto Briefing 975 Milliarden Parameter (41 Milliarden aktiv), Inkling-Small vom 30. Juli 276 Milliarden (12 Milliarden aktiv).

Benchmarks: konkurrenzfähig, aber kein Durchmarsch

Thinking Machines gibt für Inkling 2 Small einen Wert von 31 im Artificial Analysis Intelligence Index (Version 5.0) an – ein Sammelwert für allgemeine Fähigkeiten, deutlich über den früheren Modellen des Labors. Beim Programmieren sieht das Bild gemischter aus. Aus der offiziellen Tabelle „Coding and Autoresearch“ (zusammengetragen von note.com und superpowerdaily):

Laut superpowerdaily liegt Inkling auf DeepSWE und FrontierCode vor GLM-5.3-Flash, Muse Spark Open und Kimi K3 – also gut im Rennen, aber nicht vorn. Alle Werte stammen vom Hersteller selbst und wurden laut Together mit maximaler Denktiefe (0,99, „xhigh“) und Temperatur 1,0 gemessen. Stärker schneidet das Modell beim Webdesign ab: Auf der DesignArena belegt es laut Crypto Briefing Platz 4 insgesamt und Platz 1 unter den Open-Weight-Modellen; shiftdelete nennt einen Website-Elo-Wert von rund 1.340.

Wie es trainiert wurde

Die Fortschritte führt das Labor auf Verbesserungen in jeder Trainingsphase zurück. Das Vortraining lief in vier Stufen; allein die erste umfasste laut note.com 8,4 Billionen Tokens in 68 Stunden auf NVIDIA-GB300-NVL72-Systemen – und zwar direkt im Zahlenformat NVFP4, einem sehr kompakten 4-Bit-Format, das Rechenleistung und Speicher spart. Danach folgte ein großer gemeinsamer Lauf mit Reinforcement Learning (Lernen durch Belohnung für gute Ergebnisse): über 17 Millionen Durchläufe, 1.075 Schritte, neun Tage auf 2.048 GPUs.

Dieser Lauf deckte laut Together-Modellkarte Programmieren, Bildverstehen, Wissensarbeit, Werkzeugnutzung und Sicherheit gemeinsam ab. Beim Coding gab es Hunderttausende langlaufende Aufgaben, wobei einige Bewerter auch den Lösungsweg beurteilten, nicht nur, ob der Code die Tests bestand. Außerdem gab es Trainingsumgebungen, die es belohnten, bei unlösbaren Aufgaben aufzuhören, statt etwas vorzutäuschen. Das Modell soll zudem visuelles Feedback nutzen können: Es schaut sich etwa eine selbst gebaute Website, ein Spiel oder ein 3D-Design an und verbessert es anhand dessen, was es sieht.

Zugang, Preise und Werkzeuge

Wer das Modell nicht selbst betreiben will, kann es über Together AI nutzen (API-Name thinkingmachines/Inkling-2-Small): 0,30 US-Dollar pro Million Eingabe-Tokens und 1 US-Dollar pro Million Ausgabe-Tokens. Auf Tinker gelten laut shiftdelete dieselben Grundpreise, dazu 0,03 US-Dollar für gecachte Eingaben und 1,50 US-Dollar pro Million Trainings-Tokens (64K-Stufe) bzw. 3 US-Dollar (256K-Stufe). Weitere API-Anbieter sind NVIDIA, Fireworks, Baseten, Nebius, Modal und Cloudflare.

Für den Eigenbetrieb nennt das Labor Integrationen in die Inferenz-Software SGLang, vLLM und TokenSpeed sowie Unsloth; für Nachtraining Miles, SkyRL und Snowflake Cortex Training.

Was du zum Ausprobieren brauchst

Realistisch: einen Server, keinen Heim-PC. Selbst stark verkleinert auf 4 Bit benötigen die 594 Milliarden Parameter grob geschätzt rund 360 GB Speicher – das entspricht mehreren Rechenzentrums-GPUs wie H100/H200 oder B200. Dass nur 17 Milliarden Parameter aktiv sind, macht das Modell schnell, senkt aber nicht den Speicherbedarf. Ein langes Kontextfenster kostet zusätzlich Speicher. Ob es Heimnutzer-taugliche Varianten mit Auslagerung in den Arbeitsspeicher gibt, geht aus den Quellen nicht hervor; denkbar ist am ehesten ein Rechner mit sehr viel einheitlichem Speicher (etwa Apple-Systeme mit 512 GB), das ist aber nicht belegt. Für alle anderen ist der einfachste Weg die Tinker-Playground oder ein API-Anbieter wie Together AI. Speicherplatz: Allein die Modelldateien dürften mehrere hundert Gigabyte belegen.

Einordnung

Mit dem Download löst Thinking Machines sein Versprechen ein und stellt ein weiteres großes, frei lizenziertes Modell aus dem Westen neben die chinesische Konkurrenz von DeepSeek, Kimi und GLM. Apache 2.0 ist dabei so freizügig wie möglich – Firmen können das Modell ohne Lizenzhürden nachtrainieren und selbst hosten. Die Stärke liegt laut Hersteller beim agentischen Programmieren und bei Design-Aufgaben mit visueller Kontrolle.

Kritisch bleibt zweierlei: Erstens hatte das Labor externe Sicherheitstests und Red-Teaming (gezielte Angriffe, um Schwächen aufzudecken) als Voraussetzung für die Freigabe genannt, deren Ergebnisse aber nicht veröffentlicht. Zweitens stammen alle Benchmarks vom Hersteller und zeigen das Modell selbst dort nicht durchgehend vorn – DeepSeek-V4.1-Flash schlägt es in mehreren Coding-Tests. Shiftdelete nennt außerdem fehlende Audio-Unterstützung, weniger geschliffenes Chat-Verhalten und eine Ausrichtung (Alignment), die noch hinter den besten geschlossenen Modellen liegt. Unabhängige Tests stehen noch aus.