Abschied vom Temperaturregler: Warum Claude, GPT-6 und Gemini ihn nicht mehr wollen

Darum geht es

Wer in den letzten Jahren ein Tutorial zu Sprachmodellen gelesen hat, kennt die Faustregel: Temperatur 0 für sachliche, wiederholbare Antworten, höhere Werte für kreative. Diese Regel gilt bei den großen Anbietern nicht mehr. Am 21. Oktober 2026 hat Anthropic mit der API-Version 2026-10-21 die Parameter temperature, top_p und top_k ganz gestrichen. Es ist die erste neue Version seit 2023-06-01. OpenAI lehnt bei GPT-6 abweichende Werte ab, und Google ignoriert sie bei Gemini 4. In der Folge melden Programme auf GitHub reihenweise Fehler.

Dieser Text erklärt, was der Regler technisch macht, warum er bei modernen Denkmodellen eher schadet und warum „Temperatur 0 heißt deterministisch“ schon immer ein Mythos war. Er zeigt auch, was du heute stattdessen einstellst und wo der Regler noch wirkt.

Was die Temperatur eigentlich macht

Ein Sprachmodell schreibt nicht direkt ein Wort. Es gibt jedem möglichen nächsten Wort (genauer: Token) eine Punktzahl, rechnet diese in Wahrscheinlichkeiten um und würfelt dann. Dieses Würfeln heißt Sampling. Die Temperatur teilt vor dem Umrechnen alle Punktzahlen durch dieselbe Zahl. Ist der Teiler klein, wachsen die Abstände zwischen den Kandidaten und der Favorit gewinnt fast immer. Ist er groß, schrumpfen die Abstände und Außenseiter kommen öfter zum Zug.

BenchLM rechnet das an einem ausgedachten Beispiel vor. Das Modell soll „Die Quartalsumsätze waren …“ fortsetzen, und die Kandidaten bekommen diese Punktzahlen: „stark“ 5, „flach“ 3, „gemischt“ 2. Wir haben die Werte nachgerechnet, sie stimmen:

Temperatur	„stark“	„flach“	„gemischt“
0,2	100,0 %	0,0 %	0,0 %
0,5	98,0 %	1,8 %	0,2 %
1,0	84,4 %	11,4 %	4,2 %
1,5	71,5 %	18,8 %	9,7 %
2,0	62,9 %	23,1 %	14,0 %

Temperatur 0 ist ein Sonderfall, denn durch null kann man nicht teilen. Die Anbieter nehmen dann einfach immer das wahrscheinlichste Wort, das nennt man Greedy Decoding. Wichtig ist der Zinseszinseffekt. Nach unserer Rechnung landet ein Text mit zehn solchen Weggabelungen bei Temperatur 1 nur mit etwa 18 Prosent Wahrscheinlichkeit jedes Mal beim Favoriten (0,844 hoch 10), bei Temperatur 0,5 mit etwa 82 Prosent. BenchLM betont außerdem: Eine niedrige Temperatur macht ein Modell nicht klüger. Sie lässt es nur entschlossener auf seine erste Wahl setzen, egal ob die richtig oder falsch ist.

Top-k und Top-p sind verwandte Filter. Sie streichen vor dem Würfeln Kandidaten: Top-k behält die k wahrscheinlichsten Wörter, Top-p die kleinste Gruppe, die zusammen auf die Wahrscheinlichkeit p kommt.

Warum der Regler bei Denkmodellen schadet

Moderne Modelle wie GPT-6, Claude Opus 5.5 oder Gemini 4 schreiben zuerst eine lange interne Gedankenkette, bevor sie antworten. Google formuliert für Gemini 3 sehr deutlich: Man empfehle „dringend“, die Temperatur auf dem Standardwert 1,0 zu lassen. Werte darunter könnten zu Schleifen oder schlechterer Leistung führen, besonders bei komplexer Mathematik und Reasoning. Die Reasoning-Fähigkeiten seien auf den Standardwert optimiert.

Warum das so ist, untersucht das Paper „Wait, Wait, Wait… Why Do Reasoning Models Loop?“ (ICML 2026, Pipis u. a.). Die Autoren ließen offene Denkmodelle AIME-Mathematikaufgaben mit Temperatur 0 lösen und zählten Antworten, in denen sich ein Textstück mindestens 20-mal wiederholt:

Modell (Temperatur 0)	Anteil Schleifen
R1-Distill-Qwen 1.5B	76 %
R1-Distill-Llama 8B	54 %
R1-Distill-Qwen 7B	49 %
Phi-4-reasoning	43 %
R1-Distill-Qwen 32B	37 %
OpenThinker3-1.5B	30 %
QwQ-32B	4 %

Die Autoren nennen zwei Ursachen, und beide sind Lernfehler. Wenn der richtige nächste Schritt schwer zu lernen ist, ein „im Kreis gehender“ aber leicht, bekommt der Kreis zu viel Wahrscheinlichkeit. Außerdem machen Transformer Fehler, die über die Zeit zusammenhängen. Greedy Decoding verstärkt beides, denn es wählt immer wieder denselben falschen Favoriten. Eine höhere Temperatur lindert das, löst aber die Ursache nicht. Die Autoren nennen sie eine „Notlösung“.

Unsere Einschätzung: Ein zweiter Grund ist naheliegend, auch wenn ihn die Anbieter nicht ausdrücklich nennen. Beim Reinforcement Learning (das Modell lernt aus Belohnung für eigene Lösungsversuche) erzeugt es seine Übungsantworten mit der normalen Würfelverteilung. Was es dabei lernt, gilt also für genau diese Verteilung. Zu den Messungen passt das: Laut BenchLM liefen 71 Prozent der Benchmark-Einträge bei Vals AI, für die eine Temperatur protokolliert ist, mit 1,0 und nur 1,4 Prozent mit 0. Wer in der Praxis 0 erzwingt, nutzt also eine Einstellung, die kaum jemand getestet hat.

Auch Qwen warnt in der Modellkarte zu Qwen3 ausdrücklich:

„Verwende KEIN Greedy Decoding, da es zu Leistungseinbußen und endlosen Wiederholungen führen kann.“

Der Mythos „Temperatur 0 = deterministisch“

Auch vor der Abschaffung hat Temperatur 0 keine identischen Antworten garantiert. Horace He vom Thinking Machines Lab hat 2025 erklärt, warum. Die Ursache sind nicht vage „Rundungsfehler“, sondern fehlende Batch-Invarianz: Server bündeln viele Anfragen zu einem Paket (Batch), und je nach Paketgröße rechnen die Rechenkerne in anderer Reihenfolge. Die Paketgröße hängt von der Serverlast ab, und die ändert sich ständig. In seinem Versuch mit Qwen3-235B und 1.000 Anfragen bei Temperatur 0 entstanden 80 verschiedene Texte. Bis Token 102 waren alle gleich, dann schrieben 992 „Queens, New York“ und 8 „New York City“. Erst mit eigens angepassten Rechenkernen waren alle 1.000 identisch, dafür dauerte der Lauf 42 statt 26 Sekunden.

Praxistests bestätigen das. Datallmlab schickte fünf identische Anfragen mit Temperatur 0 über OpenRouter, und nur 2 von 19 Modellen antworteten jedes Mal gleich. BenchLM ließ 30 Support-Tickets auswerten: 277 von 289 Dreierserien waren identisch, die Abweichungen traten fast nur bei mehrdeutigen Tickets auf.

Was die Anbieter jetzt konkret tun

Anthropic: In der Version 2026-10-21 gibt jede Anfrage mit einem der drei Parameter einen 400-Fehler zurück, „auch beim Standardwert des Parameters“. Das gilt für die Messages API, die Token-Zählung und Batches. Wer den Parameter weglässt, bekommt Temperatur 1,0. Für Claude 4.7 und neuer ändert sich nichts, denn die akzeptierten schon vorher nur den Standardwert. Bei Claude Sonnet 4.6 dagegen geht eine absichtlich gesenkte Temperatur verloren:

„Keine andere Einstellung ersetzt sie.“

Die neue Version kommt automatisch an, sobald jemand die neuen SDK-Hauptversionen installiert (Python 2.0.0, TypeScript 1.0.0, Go 2.0.0, Java 3.0.0 und weitere). Laut einem Fehlerbericht bei ragas-ng kennt messages.create() im Python-SDK 2.6.0 den Parameter gar nicht mehr. Die Anfrage scheitert dann schon auf dem eigenen Rechner mit einem TypeError. Wer weiter steuern will, kann bei Modellen vor 4.7 die alte Version 2023-06-01 mitschicken.

OpenAI: Der GPT-6-Leitfaden sagt: Wenn der Reasoning-Effort nicht none ist, „entferne temperature, top_p und top_logprobs“. GPT-6 Astra und GPT-6.1 Sol kennen none gar nicht, bei GPT-6.1 Terra, GPT-6 Sol und GPT-6 Luna gibt es die Stufe. Ein Problem dabei: Laut Drittanbietern wie reAPI steht der Standard auf medium. Darum scheitern die meisten Anfragen, die eine Temperatur mitschicken. Der Fehlerbericht bei Flowplan vom 11. November zeigt das typische Bild: „'temperature' does not support 0.2 with this model. Only the default (1) value is supported.“ Ähnliche Fehler gab es bei Home Assistant und MCP Assist.

Google: Gemini 3 nimmt die Temperatur noch an, rät aber ab. Ab Gemini 3.6 heißt es: Die Parameter sind „veraltet und werden ignoriert“, künftige Modellgenerationen sollen mit einem 400-Fehler antworten. Gemini 4 Argon, seit 13. Oktober allgemein verfügbar, ignoriert eigene Werte und schickt laut Google eine Veraltet-Warnung zurück.

Die stille Falle: Du stellst etwas ein, und nichts passiert

Ein Fehler ist lästig, aber wenigstens bemerkt man ihn. Gefährlicher ist es, wenn der Wert einfach verschwindet:

• OpenRouter: Laut Doku erreichen Anfragen im Standard-Routing auch Anbieter, die nicht alle Parameter unterstützen. Die „ignorieren unbekannte Parameter“. Datallmlab hat es nachgewiesen: Vier Modelle antworteten auf temperature: 1.7 normal, mit require_parameters: true kam dagegen ein Fehler. Digitalapplied fand außerdem: Bei 6 von 11 Modellen, bei denen eine geänderte Temperatur nichts bewirkt oder einen Fehler auslöst, listete der OpenRouter-Katalog sie trotzdem als unterstützt. Darunter waren Claude Opus 5.5, Kimi K3 und DeepSeek V4.1 Flash.
• DeepSeek-API: Der Denkmodus ist standardmäßig an. Dort wirkt die Temperatur nicht, und laut Doku kommt auch kein Fehler. Die bekannte DeepSeek-Tabelle (0,0 für Code, 1,5 für Gedichte) gilt also nur ohne Denkmodus.
• Bibliotheken: LiteLLM verwirft nicht unterstützte Parameter mit drop_params=True, im Proxy für Claude Code und Codex sogar standardmäßig. Das Vercel AI SDK entfernte die Temperatur bei GPT-6 Sol und Luna eine Zeit lang selbst bei none, immerhin mit Warnung (behoben in @ai-sdk/openai 4.0.90).

Unsere Einschätzung: Ein Regler in einer Oberfläche beweist nichts. Wer sichergehen will, macht den Test, den Digitalapplied empfiehlt: eine Anfrage mit abweichendem Wert schicken und prüfen, ob ein Fehler kommt oder sich etwas ändert.

Was stattdessen hilft

• Reasoning-Effort bzw. thinking_level: Bestimmt, wie lange das Modell nachdenkt, und damit Kosten, Tempo und Gründlichkeit. Bei Gemini 4 gibt es low, medium (Standard) und high.
• Verbosity: Bei OpenAI steuert text.verbosity (low/medium/high) die Länge der Antwort, also das, wofür viele früher an der Temperatur gedreht haben.
• Strukturierte Ausgaben: Ein festes JSON-Schema mit strict: true ist laut reAPI und Digitalapplied der beste Ersatz für „Temperatur 0“, wenn man verlässlich maschinenlesbare Antworten braucht.
• Seeds: Sie sind nur ein Versuch und keine Garantie. OpenAI selbst sagt, Determinismus sei nicht garantiert. Bei Datallmlab drückte seed: 42 Gemini 3.8 Flash von fünf auf eine Variante, bei anderen Modellen änderte sich wenig.
• Wiederholen statt hoffen: BenchLM rät, jeden wichtigen Fall mindestens dreimal laufen zu lassen. Weichen die Antworten voneinander ab, ist die Eingabe für das Modell offenbar mehrdeutig. Wer Vielfalt will, bittet im Prompt um mehrere Varianten.

Übersicht: Wo der Regler noch wirkt

Anbieter/Modell	Temperatur	Empfehlung des Herstellers
Claude (API 2026-10-21)	Fehler 400	weglassen, per Prompt steuern
Claude 4.7+ (alte API)	nur Standard 1,0	weglassen
GPT-6 Astra, GPT-6.1 Sol	nicht unterstützt	Effort einstellen
GPT-6.1 Terra, GPT-6 Sol, Luna	nur bei Effort none	sonst weglassen
Gemini 3	wirkt	1,0 lassen
Gemini 3.6+, Gemini 4	ignoriert	weglassen
DeepSeek-API (Denkmodus)	still ignoriert	weglassen
Kimi K3	Fehler	fest 1,0
Grok 4.7, GLM-5.3, Mistral	wirkt	Mistral: 0,0–0,7
Qwen3 (lokal, Denken/normal)	wirkt	0,6/0,95/k20 bzw. 0,7/0,8/k20
Qwen3.8-27B (lokal)	wirkt	Denken 1,0/0,95/k20; Instruct 0,7/0,8/k20, presence_penalty 1,5
DeepSeek V4.1 Flash (lokal)	wirkt	1,0, top_p 1,0
Gemma 4 (lokal)	wirkt	1,0/0,95/k64 für alles

Bei lokalen Programmen lohnt ein zweiter Blick. Ollama hat zwar global 0,8 als Standard, liefert aber für Bibliotheksmodelle eigene Werte mit, bei qwen3 etwa 0,6/top_k 20/top_p 0,95. llama.cpp nutzt laut einem Pull Request eine feste Reihenfolge: zuerst deine Startparameter, dann die in der GGUF-Datei hinterlegten Empfehlungen, zuletzt fest eingebaute Standardwerte. Ob die Empfehlungen bei deiner Datei wirklich hinterlegt sind, ist nicht garantiert. Im Zweifel setzt du die Werte aus der Modellkarte selbst. Qwen weist außerdem darauf hin, dass nicht jedes Programm jeden Parameter unterstützt.

Einordnung

Die Abschaffung ist mehr als Aufräumen. Bei Modellen, die erst nachdenken und dann antworten, war die Temperatur vom Hilfsmittel zum Risiko geworden. Sie half kaum bei der Zuverlässigkeit und erzeugte im schlimmsten Fall Endlosschleifen. Die Anbieter verlagern die Steuerung auf Regler, die zu dieser Arbeitsweise passen: Denkaufwand, Antwortlänge, feste Formate.

Kritisch bleibt dreierlei. Erstens verlieren Teams mit älteren Modellen wie Claude Sonnet 4.6 eine echte Stellschraube ohne Ersatz, und das unbemerkt, wenn ein Update automatisch durchrutscht. Darauf weist der Newsletter Prompt-Led Product hin. Zweitens begründen die Hersteller den Schritt kaum: Anthropic sagt, was zu tun ist, aber nicht, warum. Drittens fehlt eine saubere Messung, wie viel eine bestimmte Temperatur bei heutigen Modellen tatsächlich an Qualität kostet oder bringt. Auch BenchLM hat das ausdrücklich nicht gemessen.

Unsere Einschätzung: Für die meisten Nutzer ist die richtige Einstellung künftig, den Parameter einfach wegzulassen. Bei lokalen Modellen nimmst du die Werte aus der Modellkarte, nicht 0 aus alten Tutorials. Wer Reproduzierbarkeit braucht, sollte sie mit Schemas, festen Modellversionen und Wiederholungen absichern, statt sie von einem Regler zu erwarten, der sie nie garantiert hat.