Köder-Experiment: KI-Zwischenhändler leaken Prompts – Angreifer klauen Cloud-Schlüssel
Der Sicherheitsforscher HD Moore hat fast zwei Millionen Prompts mit präparierten Geheimnissen an KI-Dienste geschickt und beobachtet, wo sie wieder auftauchen. Ergebnis: Mindestens drei Hosting-Anbieter waren gehackt, Zwischenhändler protokollierten Anfragen trotz Datenschutz-Zusagen – und keiner der Betroffenen hatte es bemerkt.

Worum es geht
Was passiert eigentlich mit einem Geheimnis, nachdem man es in eine KI-Anwendung eingetippt hat? Dieser Frage ist der bekannte Sicherheitsforscher HD Moore nachgegangen, heute Chief Research Officer der Sicherheitsfirma Dragos. Von Juli bis November 2026 schickte er nach eigenen Angaben fast zwei Millionen Anfragen an KI-Dienste, in denen jeweils einzigartige, nachverfolgbare Geheimnisse steckten – etwa gefälschte Zugangsschlüssel für Amazons Cloud AWS oder private Links. Dann wartete er ab, wo diese Geheimnisse wieder auftauchen.
Das Ergebnis, das Moore am 19. November öffentlich zusammenfasste und über das unter anderem Ars Technica und Crypto Briefing berichten, ist ernüchternd:
„Was wir gefunden haben, offenbarte Sicherheitslücken, Prompt-Diebstahl und weit verbreitetes Versagen beim Schutz von Kundendaten.“
Konkret fand Moore:
- Belege, dass mindestens drei KI-Anbieter von Angreifern übernommen waren, die die eingehenden Prompts absaugten.
- Mehrere Wiederverkäufer auf dem Markt für KI-Rechenleistung, die Prompts protokollierten und diese auf irgendeinem Weg an Leute weitergaben, die die darin enthaltenen Zugangsdaten dann benutzten.
- Mehrere Fälle, in denen Anbieter Datenschutz-Kennzeichnungen der Nutzer ignorierten – etwa „Zero Data Retention“ (ZDR, also die Zusage, eine Anfrage zu verarbeiten und danach sofort zu vergessen) oder „keine Datensammlung“.
So funktioniert das Köder-Prinzip
Moore arbeitete mit sogenannten Canary Tokens – benannt nach den Kanarienvögeln, die Bergleute früher als Gas-Warnsystem mit unter Tage nahmen. Crypto Briefing vergleicht sie mit einer Farbpatrone in einem Geldsack: Der Köder sieht aus wie echt, etwa wie ein gültiger AWS-Schlüssel. Sobald jemand ihn benutzt, meldet er sich beim Forscher.
Der Vorteil der Methode: Sie ist sehr eindeutig. Weil jeder Köder nur ein einziges Mal und an genau einen Empfänger verschickt wurde, lässt sich zurückverfolgen, wo er abgeflossen ist. Und ein ausgelöster Köder bedeutet nicht, dass Daten theoretisch abfließen könnten, sondern dass sie tatsächlich abgeflossen sind und jemand sie benutzt hat. Die Schlüssel führten dabei nicht zu echten Systemen, sondern in eine kontrollierte Testumgebung – genau dadurch konnte Moore den Angreifern bei der Arbeit zusehen.
Das Problem liegt in der Mitte der Kette
Im Fokus stand eine Schicht, an die die meisten Nutzer nie denken. Viele KI-Apps sprechen nicht direkt mit einem Modellanbieter wie OpenAI oder Anthropic, sondern reichen die Anfragen an Vermittler weiter – sogenannte KI-Router oder KI-Gateways wie OpenRouter oder Vercel. Diese sammeln Prompts von vielen Nutzern ein und leiten sie an den Inferenz-Anbieter weiter, der gerade am besten passt, etwa am günstigsten ist. Inferenz bezeichnet dabei das eigentliche Ausführen eines Modells, um eine Antwort zu erzeugen.
Das Problem, das Ars Technica beschreibt: Prompts sind zwar auf dem Übertragungsweg verschlüsselt, werden aber an jeder Station dieses Netzwerks wieder entschlüsselt. Der Router muss den Klartext lesen, um zu entscheiden, wohin er die Anfrage schickt. Danach landet sie oft bei einem Pool verfügbarer Modelle, die wiederum bei unterschiedlichen Hosting-Firmen laufen. Mitunter reicht sogar ein Router (etwa Vercel) die Anfrage an den nächsten weiter (etwa OpenRouter). Jede dieser Stationen kann den Prompt protokollieren und so lange speichern, wie ihre eigenen Regeln es vorsehen – im Zweifel unbegrenzt.
Crypto Briefing bringt es auf den Punkt: Ein Prompt, der durch Router, Wiederverkäufer und einen externen Host läuft, hat drei Gelegenheiten, mitgeschrieben, abgefangen oder gestohlen zu werden. Die Datenschutzerklärung an der ersten Station sagt nichts über die dritte.
Der schwerste Fund: gehackte Anbieter und gestohlene Cloud-Schlüssel
Am gravierendsten waren die Einbrüche bei drei verschiedenen Hosting-Anbietern. Bei einem davon nutzten die Angreifer laut Moore „ein paar hundert“ der Köder-AWS-Schlüssel – Crypto Briefing spricht von rund 200. Moore schreibt:
„Jeder Schlüssel wurde in genau einer Anfrage an einen Anbieter geschickt, alle innerhalb weniger kurzer Zeitfenster Ende Oktober – und jede Anfrage, die wir in diesen Zeitfenstern geschickt haben, wurde gestohlen.“
Aufschlussreich: Einige der gestohlenen Schlüssel stammten aus Anfragen, die der Anbieter abgelehnt hatte, bevor überhaupt ein Modell lief. Daraus schließt Moore, dass die Angreifer die Anfragen direkt am Eingang des Anbieters abgriffen und nicht irgendwo tiefer im System. Bei den beiden anderen Einbrüchen waren einige der gestohlenen Anfragen als ZDR markiert. Moores trockener Kommentar: Ein Datenschutz-Flag hilft nichts, wenn der Angreifer schon drin ist.
Was danach passierte, zeigt, wie professionell die Angreifer vorgingen. Sie testeten jeden Schlüssel, teils nur Stunden nach dem Absenden, um herauszufinden, worauf er Zugriff gibt. Sie durchsuchten S3-Speicher (Amazons Dateiablage), Secrets Manager und Parameter Stores – also Orte, an denen Firmen typischerweise weitere Passwörter und Zugangsdaten ablegen. Sie versuchten, über AWS Bedrock gehostete KI-Modelle freizuschalten, vermutlich um auf fremde Kosten Rechenleistung zu nutzen, und legten eigene IAM-Benutzer an – IAM ist Amazons Rechteverwaltung –, um sich dauerhaften Zugang zu sichern. Insgesamt wurden die gestohlenen Köderschlüssel laut Ars Technica „zehntausende Male“ in AWS-API-Aufrufen verwendet.
Die Diebstähle waren kein einmaliges Ereignis: Laut Crypto Briefing reichen die ersten bestätigten Fälle bis Mitte Juli 2026 zurück, also fast bis zum Start des Experiments.
Logging trotz Versprechen – und Daten in China
Neben echten Einbrüchen fand Moore Hinweise, dass Wiederverkäufer und Marktplätze Kundenprompts über eingebaute Protokollierungsfunktionen mitschnitten – im direkten Widerspruch zu Zero-Data-Retention-Zusagen. Wie diese Daten anschließend zu den Personen gelangten, die die Köder benutzten, bleibt in den Berichten offen; Ars Technica formuliert, sie seien „irgendwie“ weitergegeben worden.
Hinzu kommt die Frage, wo die Daten landen. Eine im Experiment verschickte einzigartige URL tauchte laut Crypto Briefing 24 Tage nach der ursprünglichen Anfrage in einem internen Chat eines chinesischen Unternehmens auf. Moore konnte außerdem Prompts von US-Nutzern bis zu chinesischen KI-Organisationen zurückverfolgen. Wer eine Anfrage über einen Router schickt, sieht in der Regel nicht, wo sie am Ende verarbeitet wird.
Besonders unangenehm: Die betroffenen Anbieter wussten von alldem nichts. Sie erfuhren von den Einbrüchen erst, als Moore sie im November 2026 informierte. Welche Anbieter genau betroffen sind, nennen die vorliegenden Berichte nicht.
Was das für dich bedeutet
Die praktische Lehre ist unbequem, aber klar: Alles, was in einem Prompt steht, sollte als potenziell öffentlich gelten. Das betrifft API-Schlüssel, Cloud-Zugangsdaten, interne Links und Kundendaten. Gerade Entwickler kopieren solche Dinge beim Debuggen oder Automatisieren routinemäßig in KI-Werkzeuge – und genau dieses Material ernten Angreifer offenbar aktiv und testen es sehr schnell.
Wer KI-Dienste nutzt oder in eigene Produkte einbaut, sollte also Geheimnisse vor dem Absenden entfernen, Zugangsdaten nach versehentlichem Teilen sofort austauschen und genau prüfen, über wie viele Zwischenstationen die eigenen Anfragen laufen.
Einordnung
Die KI-Branche hat viel Energie darauf verwendet, Kunden zu versichern, was die großen Modellhersteller mit ihren Daten tun – und was nicht. Moores Experiment lenkt den Blick auf eine weniger beachtete Ebene: die Router, Wiederverkäufer und Hosting-Firmen zwischen Nutzer und Modell. Gerade dort, wo Anfragen aus Preisgründen dynamisch an wechselnde Anbieter verteilt werden, ist eine Datenschutz-Zusage nur so viel wert wie das schwächste Glied der Kette.
Die Methode ist überzeugend, weil sie tatsächliche Missbräuche nachweist statt theoretischer Risiken. Offen bleibt allerdings einiges: Die Namen der kompromittierten Anbieter sind in den Berichten nicht genannt, ebenso wenig, wie die Wiederverkäufer die Daten genau weitergaben oder wie die Router selbst auf die Ergebnisse reagieren. Am beunruhigendsten ist die Erkennungslücke: Angreifer konnten monatelang bei mindestens drei Anbietern Daten stehlen, ohne dass es dort jemand bemerkte – bis ein externer Forscher Bescheid gab.
Quellen
- Ars Technica – AI arstechnica.com
- cryptobriefing.com cryptobriefing.com
- ITHome (CN) ithome.com
- Reddit r/LocalLLM runtimewire.com
- Lemmy: Technology lemmy.world
- Google News (PL) news.google.com
- Reddit r/LocalLLaMA reddit.com
- Bing News (es-ES) tecnologiageek.com
- Google News (AT) news.google.com
- Google News (ID) news.google.com
- Google News (ES) news.google.com
- Reddit r/LocalLLM dragos.com
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.