KI-Coding-Agent veröffentlicht Zugangsschlüssel: Kunden-Prompts bei Together AI abgeflossen

Beim KI-Cloud-Anbieter Together AI hat ein KI-Coding-Agent einen geheimen Zugangsschlüssel in ein öffentliches GitHub-Projekt hochgeladen. Ein Unbekannter lud damit gespeicherte Kunden-Prompts aus dem Juni und Juli 2026 herunter und durchsuchte sie nach weiteren Passwörtern. Der Fall zeigt, wie riskant es ist, KI-Agenten ohne strenge Kontrollen am Code arbeiten zu lassen.

Branche 21. Nov. 2026 6 Min. Lesezeit Quelle: Together AI
Symbolbild, KI-generiert

Worum es geht

Together AI, ein US-Anbieter, über den Unternehmen und Entwickler offene KI-Modelle per Programmierschnittstelle in der Cloud nutzen können, hat am 21. November 2026 einen Sicherheitsvorfall öffentlich gemacht. Ein Unbefugter hat Stichproben von Prompts heruntergeladen – also von Texten, die Kunden an die KI-Modelle des Dienstes geschickt hatten. Die Daten stammen aus Anfragen im Juni und Juli 2026.

Der Auslöser macht den Fall besonders: Laut Together AI hat ein KI-Coding-Agent – ein KI-Programm, das selbstständig Code schreibt und in Projekte einspielt – einen geheimen Zugangsschlüssel in ein öffentliches GitHub-Projekt hochgeladen. Über diesen Schlüssel kam der Angreifer an die Daten. Die Mitteilung ist von CEO und Mitgründer Vipul Ved Prakash unterzeichnet, das Unternehmen entschuldigt sich darin für den Vorfall.

Was genau passiert ist

Together AI betreibt einen sogenannten Serverless-Inferenzdienst. Kunden schicken dort Anfragen an ein Modell und bezahlen pro Nutzung, ohne eigene Server oder Grafikkarten zu mieten. Für Softwaretests sammelte das Unternehmen nach eigener Darstellung Prompt-Stichproben, deren Verwendung für diesen Zweck „autorisiert“ war. Wie diese Erlaubnis zustande kam, etwa über Nutzungsbedingungen oder Kontoeinstellungen, erklärt die Mitteilung nicht. Gespeichert wurden die Stichproben in einem privaten Repository auf Hugging Face, der großen Plattform für KI-Modelle und Datensätze.

Die Stichproben stammen aus Anfragen an drei Modelle:

Modell Betroffene Tage (hauptsächlich)
Minimax M3 24. Juni, 4., 8. und 14. Juli 2026
GLM 5.2 wie oben
Kimi 2.6 wie oben

Welche Daten an welchem Tag zu welchem Modell gehören, schlüsselt Together AI nicht auf.

Dann folgte die Panne: Bei der Arbeit am öffentlichen GitHub-Projekt xorl hat ein KI-Coding-Agent einen Commit angelegt, also eine gespeicherte Änderung am Code. Darin stand ein Zugangsschlüssel (englisch „Credential“), der Zugriff auf das private Hugging-Face-Repository gewährte. Together AIs automatischer Scanner, der Code nach versehentlich veröffentlichten Geheimnissen durchsucht, fand den Schlüssel, und das Team machte den Commit rückgängig.

Das reichte aber nicht. Im Expositionsfenster, also in der Zeit, in der der Schlüssel öffentlich einsehbar war, hat ihn ein Unbefugter abgegriffen und die Prompt-Stichproben heruntergeladen. Wie lange dieses Fenster offen stand, schreibt Together AI nicht. Wichtig ist auch: Wer einen Commit nur rückgängig macht, entfernt den Schlüssel nicht automatisch aus der Versionsgeschichte und macht ihn auch nicht ungültig. Ob und wann der Schlüssel gesperrt wurde, geht aus der Mitteilung ebenfalls nicht hervor.

Der Angreifer suchte nach weiteren Passwörtern

Der Unbefugte hat die Daten nicht nur heruntergeladen. Laut Together AI durchsuchte er die Prompts gezielt nach Zugangsdaten zu anderen Diensten und prüfte, ob sie noch funktionierten. Das passt zu einem bekannten Problem: Wer KI-Modelle nutzt, kopiert oft Konfigurationsdateien, Code-Ausschnitte oder Logdateien in den Prompt, und darin stecken manchmal API-Schlüssel oder Passwörter.

Fünf der getesteten Zugangsdaten waren Canary Credentials. Das sind Köder-Zugangsdaten, die absichtlich ausgelegt werden und Alarm schlagen, sobald jemand sie benutzt, ähnlich wie ein Kanarienvogel im Bergwerk früher vor Gas warnte. Sie gehörten zu einem Sicherheitsexperiment der Firma Dragos, die sich auf die Sicherheit von Industrieanlagen spezialisiert hat. Ob Dragos damit den Missbrauch bemerkt hat oder ob der Vorfall auf anderem Weg aufgefallen ist, sagt die Mitteilung nicht. Offen bleibt auch, ob der Angreifer neben den Ködern auch echte, gültige Zugangsdaten von Kunden gefunden und benutzt hat.

Untersuchung und Umfang

Together AI hat nach eigenen Angaben eine externe Forensikfirma hinzugezogen, also Spezialisten, die Angriffe technisch nachvollziehen. Auch die Strafverfolgungsbehörden sind eingeschaltet. Laut Unternehmen gibt es keine Hinweise auf weitere Prompt-Lecks über diesen Vorfall hinaus. Man habe außerdem „keinen Grund zu der Annahme“, dass der Angreifer die Daten weitergegeben hat, und gehe davon aus, dass sie inzwischen gelöscht sind. Wie Together AI zu dieser Einschätzung kommt, wird nicht erklärt.

Noch nicht abgeschlossen ist die inhaltliche Prüfung: Together AI untersucht weiter, ob in den abgeflossenen Prompts sensible persönliche Daten oder andere Kundendaten standen. Betroffene Kunden will das Unternehmen bei Bedarf direkt informieren.

Der Zeitablauf ist bemerkenswert. Die Daten stammen vom Juni und Juli 2026, die Mitteilung erschien am 21. November 2026. Wann der Angriff selbst stattfand und wann Together AI davon erfuhr, nennt das Unternehmen nicht.

Was Together AI ändert und was Kunden tun sollten

Als Folge hat das Unternehmen nach eigenen Angaben seine Kontrollen bei Entwicklungsabläufen, Zugangsdaten und Kundendaten verschärft:

  • Eingeschränkte oder kurzlebige Zugangsdaten, wo möglich auch Zugriff ganz ohne Schlüssel. Ein Schlüssel, der nur wenige Rechte hat oder nach kurzer Zeit verfällt, richtet weniger Schaden an, wenn er nach außen gelangt.
  • Prüfung aller Pull Requests auf Zugangsdaten. Pull Requests sind Änderungsvorschläge am Code, bevor sie übernommen werden. So sollen Geheimnisse gar nicht erst öffentlich werden.
  • Zero Data Retention (ZDR) als Standard für neue Konten. Mit ZDR speichert der Anbieter Prompts und Antworten nicht über die eigentliche Anfrage hinaus.
  • Neue Regeln für den Einsatz von KI-Coding-Agenten in der Entwicklung. Wie diese aussehen, beschreibt Together AI nicht.

Bestandskunden, die sensible Daten über den Dienst schicken, sollen ZDR in ihren Kontoeinstellungen selbst einschalten. Für Fragen nennt Together AI die Adresse security@together.ai.

Einordnung

Der Vorfall zeigt ein Risiko, das mit der Verbreitung von KI-Coding-Agenten größer wird. Diese Werkzeuge schreiben und committen Code oft schneller, als Menschen jede Änderung prüfen können, und sie unterscheiden nicht zuverlässig zwischen harmlosen Konfigurationswerten und Geheimnissen. Dass ausgerechnet ein KI-Anbieter so einen Fehler öffentlich einräumt, macht den Fall zu einem Lehrstück für die Branche. Der eigentliche Fehler ist allerdings alt: Geheime Schlüssel gehören nicht in Code-Repositories. Und ein Scanner, der erst nach der Veröffentlichung anschlägt, kommt zu spät, wenn Angreifer öffentliche Repositories automatisiert nach Schlüsseln durchsuchen.

Kritisch zu sehen ist auch, dass Together AI echte Kunden-Prompts überhaupt dauerhaft für Tests gespeichert hat und ZDR bisher nicht der Standard war. Für Nutzer heißt das: Ob ein Anbieter Prompts speichert, hängt oft von Einstellungen ab, die man selbst prüfen muss. Und Zugangsdaten, Passwörter oder persönliche Daten gehören grundsätzlich nicht in einen Prompt, bei keinem Anbieter.

Viele Fragen bleiben offen: wie viele Kunden und Prompts betroffen sind, wie lange der Schlüssel öffentlich war, ob echte Kunden-Zugangsdaten missbraucht wurden und worauf die Annahme beruht, die Daten seien gelöscht. Alle Angaben stammen bisher allein von Together AI. Eine unabhängige Bestätigung gibt es noch nicht.

Quellen

#sicherheit#datenleck#together ai#coding-agents#datenschutz
Originalquelle lesen

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.