Prompt-Caching: Warum die Kaffeepause im KI-Chat teurer ist als die Frage
Bei langen Coding- und Agenten-Sitzungen bestimmt der Cache die Kosten, nicht der Listenpreis pro Token. Wir erklären, was im Cache liegt und warum schon ein geändertes Zeichen oder eine Stunde Pause teuer wird. Außerdem zeigen wir, wie OpenAI, Anthropic, Google, DeepSeek und xAI ihre Cache-Preise gestalten – mit nachgeprüfter Tabelle und Beispielrechnung.

Darum geht es
Wer mit Claude Code, Codex oder einem eigenen Agenten arbeitet, schickt bei jedem Schritt den kompletten bisherigen Verlauf erneut an das Modell: Systemanweisungen, Werkzeugbeschreibungen, gelesene Dateien und alle früheren Nachrichten. Bei einer längeren Sitzung sind das schnell 50.000 bis mehrere hunderttausend Token pro Anfrage, obwohl nur ein paar Zeilen neu sind. Ob man dafür den vollen Preis zahlt oder fast nichts, entscheidet der Prompt-Cache.
Daraus ergibt sich eine scheinbar paradoxe Folge: Eine kurze Frage nach einer Stunde Pause kann ein Vielfaches derselben Frage kosten, die man zwei Minuten früher gestellt hätte. In einem Reddit-Beitrag ist von einem Faktor 20 die Rede. Den Originalthread konnten wir nicht einsehen. Die Zahl ergibt sich aber genau aus Anthropics Preisliste, wie wir unten nachrechnen. Gleichzeitig haben die großen Anbieter in den letzten Wochen an ihren Cache-Preisen gedreht. Einige Übersichten im Netz sind deshalb veraltet.
Was eigentlich im Cache liegt
Wenn ein Sprachmodell einen Text liest, berechnet es für jedes Token in jeder Schicht Zwischenergebnisse, sogenannte Keys und Values. Daraus „merkt“ sich das Modell, was vorher im Text stand. Diesen KV-Cache kann der Anbieter speichern. Beginnt die nächste Anfrage mit exakt demselben Text, dem Präfix, überspringt der Server die Rechenarbeit und lädt die gespeicherten Werte. Das ist schneller und billiger.
Der Haken: Die Werte jedes Tokens hängen von allen Token davor ab. Ändert sich an Position 3.000 ein einziges Zeichen, ist alles dahinter ungültig. Es ist wie bei einem Rezept, bei dem man in Schritt 2 eine andere Zutat nimmt: Alle folgenden Schritte muss man neu machen. Microsoft schreibt dazu knapp:
Ein einziges abweichendes Zeichen in den ersten 1.024 Token führt zu einem Cache-Fehlschlag.
Drei Begriffe bestimmen die Rechnung: - TTL (Time to Live): Wie lange der Cache ohne Nutzung erhalten bleibt. Jeder Treffer setzt die Uhr meist zurück. - Schreibaufschlag: Wer einen Cache anlegt, zahlt oft mehr als den normalen Eingabepreis. - Lese-Rabatt: Treffer kosten nur einen Bruchteil des Eingabepreises.
Was den Cache zerstört – auch ohne Pause
Ablauf ist nur eine Ursache, die andere ist Invalidierung. Laut Anthropic gilt die Reihenfolge Werkzeuge → Systemprompt → Nachrichten. Ändern sich die Werkzeugdefinitionen, ist alles weg. Ein- oder Ausschalten der Websuche zerstört Systemprompt- und Nachrichten-Cache. Bei OpenAI stehen laut Doku auch model, tools, text.format (also das Antwortschema), reasoning.effort, text.verbosity und die Kompaktierung auf der Liste.
Für Claude Code zählt die offizielle Doku auf: Modellwechsel (jedes Modell hat einen eigenen Cache), bei den meisten Modellen ein Wechsel der Effort-Stufe, das Einschalten des Fast-Modus, das Verbinden eines MCP-Servers, wenn dessen Werkzeuge vorab geladen werden, das automatische Aussortieren alter Bilder und /compact. Die Kompaktierung ersetzt den Verlauf durch eine Zusammenfassung und baut so zwangsläufig ein neues Präfix. Wenn man CLAUDE.md während der Sitzung bearbeitet, bleibt der Cache dagegen erhalten, die Änderung greift aber erst nach /clear, /compact oder einem Neustart. /rewind springt auf einen bereits gecachten Stand zurück und ist deshalb billig.
Typische Fallen aus der Praxis:
- Zeitstempel im Prompt: Ein Autor auf Dev Genius berichtet, dass eine einzige Zeile mit Zeitstempel die Kosten pro Aufruf seines Agenten von 0,0328 auf 0,0815 Dollar trieb. Unabhängig bestätigt ist das nicht.
- Strenges JSON-Schema: Im OpenAI-Forum meldete ein Entwickler im Juli, dass bei GPT-5.6 Terra mit response_format: json_schema gar keine Cache-Schreibvorgänge stattfanden. Laut OpenAI-Support funktionierte es bei einem Nachtest im August. Ein Nutzer bestätigte das mit explizit gesetzten Breakpoints, sah aber eine Verzögerung, bis der Cache lesbar war.
- Kleine Prompts: In einem Test auf dev.to wurde ein Prompt mit rund 1.300 Token bei GPT-5.5 in 15 Versuchen nie gecacht, obwohl er über der Mindestlänge lag. Und selbst bei warmem Cache zahlte etwa jeder vierte Aufruf den vollen Preis. Caching ist laut allen Anbietern „best effort“, also ohne Garantie.
Woher der Faktor 20 kommt
Im Claude-Abo (Pro, Max, Team, Enterprise) nutzt Claude Code für die Hauptunterhaltung einen 1-Stunden-Cache. Mit API-Key, über Cloud-Anbieter oder nach Erreichen des Limits mit Nutzungs-Credits sind es nur 5 Minuten. Subagenten bekommen immer 5 Minuten, wenn man nichts anderes einstellt. Ein 1-Stunden-Schreibvorgang kostet das 2-Fache des Eingabepreises, ein Treffer das 0,1-Fache. Kommt man nach mehr als einer Stunde zurück, zahlt die nächste Frage also 2 statt 0,1, genau das 20-Fache. Bei Opus 5.5 und Sonnet 5.5 (Lesen: 0,05-fach) sind es 40, bei Fable und Mythos 5.1/5.2 (0,025-fach) sogar 80.
Der Blogger J. D. Hodges hat das an einer Sitzung mit 586.000 Token durchgerechnet: Nach Listenpreis für Fable 5.1 kostet sie aus dem warmen Cache rund 0,15 Dollar, neu geschrieben 11,72 Dollar. Im Abo erscheint das nicht als Rechnung, frisst aber Nutzungslimit. Claude Code warnt bei Sitzungen über 100.000 Token nach rund einer Stunde Leerlauf ausdrücklich davor. Seit Version 2.1.299 vom 14. Oktober fasst Claude Code Unterhaltungen über 200.000 Token nach etwa 54 Minuten Leerlauf zusammen, bevor der Cache abläuft („Idle Compaction“). Mit "idleCompaction": false lässt sich das abschalten.
Ein Autor auf wmedia.es hat drei eigene Sitzungen ausgewertet: Das wiederholte Lesen des Verlaufs machte 65, 39 und 54 Prozent der Kosten aus, obwohl es zum Rabattpreis abgerechnet wird.
Was sich gerade ändert
OpenAI hat mit GPT-5.6 (Juli 2026) das Modell „automatisch und kostenlos“ beendet. Automatisch bleibt es zwar, denn standardmäßig setzt OpenAI einen impliziten Breakpoint am Ende der letzten Nachricht. Neu sind aber explizite Breakpoints (bis zu vier Schreibvorgänge pro Anfrage, also Markierungen, bis wohin gecacht werden soll) und eine Schreibgebühr. Ein Schreibvorgang mit 30 Minuten Mindestlaufzeit kostet das 1,25-Fache des Eingabepreises. Seit dem 20. Oktober gibt es in der Responses API zusätzlich den 12-Stunden-Cache für das 2,5-Fache, nicht wie oft zu lesen das 1,25-Fache. Laut OpenAI ist das der Gesamtpreis und kein zusätzlicher Aufschlag. Das Datum 1. November stammt aus der Azure-Doku von Microsoft: Dort werden 12-Stunden-Schreibvorgänge ab dann berechnet. Wie verwirrend das ist, zeigt die verbreitete Abrechnungsbibliothek LiteLLM. Sie hat 12-Stunden-Schreibvorgänge zunächst zum 30-Minuten-Satz verbucht und damit nur etwa die Hälfte der echten Kosten angezeigt. Seit einem Fix im Hauptzweig wird korrekt abgerechnet.
Google verdoppelt am 1. Dezember die Preise von Gemini 4 Argon und Carbon: Eingabe von 2 auf 4 Dollar, Cache-Lesezugriffe von 0,10 auf 0,20 Dollar pro Million Token. Das steht in der offiziellen Preisliste. Der Rabatt bleibt also bei 95 Prozent, teurer wird es trotzdem. Laut Licenseware läuft bei Vertex AI ein Einführungsrabatt aus. Gemini 4 kennt nur implizites Caching ab 4.096 Token. Außerdem gilt eine Eigenheit: Fügt eine neue Anfrage weniger als 2.050 Token hinzu, werden die letzten 2.050 Token der vorherigen Anfrage zum vollen Preis berechnet.
DeepSeek hat am 13. November Funktionen der eigenen App in die API geholt. Die neuen Rechnungsposten betreffen Werkzeuge, nicht den Cache: Websuche und Web-Fetch kosten je 0,75 Dollar pro 1.000 Aufrufe, Dateiparsing und OCR 0,225 Dollar pro 1.000 Seiten. Dazu kommen Sprachausgabe (TTS) und Spracherkennung (ASR), beide derzeit zum halben Preis. Der Cache auf der Festplatte bleibt sehr günstig und ist laut Doku meist „einige Stunden bis Tage“ verfügbar.
Nachgeprüft: die Cache-Regeln im Überblick
Stand 15. November 2026, laut offiziellen Doku- und Preisseiten. Faktoren beziehen sich auf den normalen Eingabepreis.
| Anbieter | TTL | Schreiben | Lesen | Mindestlänge |
|---|---|---|---|---|
| Anthropic | 5 Min. / 1 Std. | 1,25× / 2× | 0,1×; Opus/Sonnet 5.5: 0,05×; Fable/Mythos 5.1–5.2: 0,025× | 512–4.096 Token je nach Modell |
| OpenAI ab GPT-5.6 | mind. 30 Min. / mind. 12 Std. (nur Responses API) | 1,25× / 2,5× | 0,1×; GPT-6.1 Sol/Terra: 0,05× | 1.024 |
| OpenAI bis GPT-5.5 | 5–10 Min. (max. 1 Std.) / bis 24 Std. | keine Gebühr | modellabhängig (GPT-5.5: 0,1×) | 1.024 |
| Gemini 4 (Argon, Carbon, Hydrogen) | nicht dokumentiert, nur implizit | keine Gebühr | 0,05× | 4.096 |
| Gemini 3.8 Flash (explizit) | selbst gewählt | Speicher 0,50 $ pro Mio. Token/Std. (ab 2027: 1 $) | 0,1× | 4.096 |
| DeepSeek (flash, V4 Pro) | „Stunden bis Tage“, best effort | keine Gebühr | flash: 0,02×; V4 Pro: ca. 0,033× | nicht angegeben |
| xAI (Grok) | nicht dokumentiert | keine Gebühr gelistet | grok-4.7/4.6: 0,25×; grok-4.5: 0,15× | nicht angegeben |
Beispielrechnung: Wann sich der Langzeit-Cache lohnt
Wir haben das selbst nach Listenpreis gerechnet: Ein Agent hat ein festes Präfix von 50.000 Token und macht 100 Durchläufe mit immer gleichem Abstand. Gezählt sind nur die Kosten des Präfixes, angenommen ist, dass jeder mögliche Treffer auch klappt. Beim 12-Stunden-Cache von OpenAI rechnen wir vorsichtig mit einem neuen Schreibvorgang alle 12 Stunden.
| Modell | Variante | Pause 3 Min. | Pause 20 Min. | Pause 90 Min. |
|---|---|---|---|---|
| Claude Opus 5.5 | ohne Cache | 20,00 $ | 20,00 $ | 20,00 $ |
| 5-Min.-Cache | 1,24 $ | 25,00 $ | 25,00 $ | |
| 1-Std.-Cache | 1,39 $ | 1,39 $ | 40,00 $ | |
| GPT-6.1 Sol | ohne Cache | 10,00 $ | 10,00 $ | 10,00 $ |
| 30-Min.-Cache | 0,62 $ | 0,62 $ | 12,50 $ | |
| 12-Std.-Cache | 0,75 $ | 0,75 $ | 3,69 $ | |
| DeepSeek flash (Hauptzeit) | mit Treffern | 0,045 $ | 0,045 $ | 0,045 $ (ohne Garantie) |
Drei Erkenntnisse: 1. Der lange Cache lohnt sich nur, wenn die Pausen länger als die kurze TTL, aber kürzer als die lange sind. Bei 20 Minuten Pause spart der 1-Stunden-Cache bei Anthropic rund 94 Prozent gegenüber dem 5-Minuten-Cache. 2. Wenn der Cache ständig abläuft, ist Caching teurer als gar kein Caching. Man zahlt immer wieder den Schreibaufschlag, aber nie den Lese-Rabatt. Das deckt sich mit der Beobachtung auf Dev Genius, dass ein abgelaufener 30-Minuten-Cache „schlechter als gar kein Caching“ war. 3. Die Gewinnschwelle bei OpenAI liegt laut Cellcog-Rechnung beim dritten Abruf: Ein Schreibvorgang plus zwei Treffer kosten das 2,7-Fache, drei Abrufe ohne Cache das 3-Fache.
Bei Gemini 4 Argon kosten 100 Treffer derzeit rund 0,60 Dollar und ab Dezember rund 1,19 Dollar. Wie lange der implizite Cache Pausen übersteht, dokumentiert Google aber nicht.
Was du konkret tun kannst
- In Claude Code mit
/usagedie Zeile „Prompt cache (main)“ prüfen. Sie zeigt Trefferquote, Fehlschläge und oft auch deren wahrscheinliche Ursache. - Modell und Effort-Stufe zu Beginn festlegen und nicht mitten in der Aufgabe wechseln.
- Vor einer längeren Pause
/compactausführen, solange der Cache noch warm ist, nicht danach. Für ein neues Thema/clearnutzen. - Wer per API-Key arbeitet und oft 5 bis 60 Minuten Pause macht, kann mit
promptCacheTtl: "1h"oderCLAUDE_CODE_PROMPT_CACHE_TTL=1hden langen Cache einschalten. - In eigenen Agenten Feststehendes an den Anfang setzen, Wechselndes wie Datum oder Nutzername ans Ende, und den Verlauf nur ergänzen, nie umschreiben.
Unser Fazit
Unsere Einschätzung: Die Anbieter nähern sich spürbar Anthropics Modell an: kurze TTL als Standard, Aufpreis für langen Cache, Schreibgebühr, dafür sehr hohe Lese-Rabatte von 90 bis 97,5 Prozent. Für Nutzer heißt das, dass der Listenpreis pro Million Token bei Agenten immer weniger über die Kosten aussagt. Entscheidend sind die Trefferquote und der Takt der Pausen. Ausreißer nach unten sind DeepSeek und xAI ohne Schreibgebühr. Bei beiden ist aber die Laufzeit des Caches nicht verbindlich dokumentiert. Bei Google ist die TTL für Gemini 4 gar nicht dokumentiert. Kritisch bleibt die mangelnde Transparenz: Die Regeln für Invalidierung füllen inzwischen ganze Dokuseiten, Abrechnungstools lagen bereits daneben, und im Abo sieht man die Cache-Kosten nur indirekt als schrumpfendes Limit.
Quellen
- OpenAI API Docs: Prompt caching developers.openai.com
- OpenAI API Pricing developers.openai.com
- OpenAI API Changelog developers.openai.com
- Microsoft Learn: Prompt caching with Azure OpenAI learn.microsoft.com
- Anthropic Docs: Prompt caching platform.claude.com
- Anthropic Docs: Pricing platform.claude.com
- Claude Code Docs: How Claude Code uses prompt caching code.claude.com
- claude.dev: What a task costs on Opus 5.5 claude.dev
- Google AI Studio Docs: Caching aistudio.google.com
- Google AI Studio Docs: Pricing aistudio.google.com
- Licenseware: Gemini API Price Increase December 2026 licenseware.io
- DeepSeek API Docs: Context Caching api-docs.deepseek.com
- DeepSeek API Docs: Models & Pricing api-docs.deepseek.com
- Zeniteq: DeepSeek Opens Its App Tools to API Developers zeniteq.com
- xAI Docs: Pricing docs.x.ai
- xAI Docs: Prompt Caching docs.x.ai
- OpenAI Community: Strict json_schema verhindert Cache-Writes bei GPT-5.6 community.openai.com
- GitHub: BerriAI/litellm PR #47800 github.com
- Cellcog: OpenAI 12-Hour Prompt Caching – When It Pays Off cellcog.ai
- dev.to: OpenAI's 12-hour prompt cache is live dev.to
- dev.to: OpenAI's 24h prompt cache – we measured the real discount dev.to
- J. D. Hodges: Claude Code Prompt Cache Has Likely Expired jdhodges.com
- wmedia.es: Claude Code token usage every turn wmedia.es
- claude-me.com: Claude Code Idle Compaction claude-me.com
- recca0120: Claude Code session cost cache misconception recca0120.github.io
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.