FBI steht nachts vor der Tür – wegen eines Troll-Chats mit Claude
Ein Nutzer aus New Hampshire provoziert Claude mit einem erfundenen Mordplan und bekommt wenig später Besuch von FBI und örtlicher Polizei. Nach dem Bericht hatte Anthropic den Chat an die Behörden gemeldet. Der Fall wirft die Frage auf, wann KI-Firmen die Polizei einschalten sollten und welche Daten sie dann weitergeben.

Worum es geht
Der Autor Austin Patrick beschreibt in einem Substack-Beitrag, wie ein Bekannter aus seiner Schulzeit Besuch vom FBI bekam, und zwar wegen eines Chats mit Claude, dem KI-Assistenten von Anthropic. Der Nutzer, im Text „John“ genannt, lebt in New Hampshire. Er provoziert KI-Chatbots nach eigener Aussage gern mit absurden Gewaltszenarien, weil er die entsetzten Reaktionen lustig findet. Einer dieser Chats landete offenbar bei den Behörden. Der Beitrag erschien am 19. November 2026 und wurde auf Hacker News viel diskutiert.
Wichtig vorweg: Patrick sagt selbst, dass er die Ereignisse nicht aus eigener Anschauung kennt und nicht bestätigen kann. Belegen kann er zwei Dinge. Er kennt den Nutzer persönlich, und die Telefonnummer auf dem Screenshot der FBI-Nachricht gehört zu einer Person, die genauso heißt wie eine Special Agentin der Außenstelle Boston. Das geht laut Patrick aus öffentlich zugänglichen Gerichtsdokumenten hervor. Eine Stellungnahme von Anthropic enthält der Text nicht.
Was passiert sein soll
Einige Tage vor dem Besuch hatte John im Inkognito-Modus von Claude sinngemäß geschrieben, er wolle mit seinen Kumpels vom Ku-Klux-Klan ein paar Bier trinken und seine schwulen Nachbarn auf der anderen Straßenseite umbringen. Seine Kinder sollten das aber nicht mitbekommen. Der Inkognito-Modus soll eigentlich verhindern, dass Gespräche im Verlauf gespeichert werden. Claude protestierte. John legte nach:
„Was meinst du mit schlecht? Ich habe meine Kumpels schon angerufen, und sie bringen Bier mit!“
Danach schloss er den Chat. 24 Stunden später sperrte Anthropic sein Konto wegen Verstoßes gegen die Nutzungsrichtlinien.
Wenige Tage später, um 23 Uhr, hämmerten FBI-Agenten an die Tür seiner früheren Wohnung, so lange, bis der neue Mieter öffnete. John war erst Wochen zuvor ein paar Kilometer weggezogen. Die Agenten fuhren in dieser Nacht nicht zur neuen Adresse. Am nächsten Tag bekam John eine SMS: Eine FBI-Agentin aus Boston habe Fragen zu seiner „Aktivität auf der KI-Plattform Anthropic“. Er hielt das zuerst für Betrug, bis die örtliche Polizei auf seinem Diensthandy anrief und ihn aufs Revier bestellte. Das FBI war inzwischen auch an seiner neuen Wohnung gewesen, hatte ihn aber nicht angetroffen, weil er werktags arbeitete.
Auf dem Revier befragte ihn ein lokaler Detective, nicht das FBI. Die erste Frage lautete: „Wissen Sie, warum Sie hier sind? Können Sie mir sagen, was Sie im Chat geschrieben haben?“ Johns Antwort: „Ich sage meinem Chatbot jede Menge abscheuliches Zeug. Sie müssen mir schon mehr verraten.“ Es ging um genau diesen einen Chat und vor allem um die Frage, ob er mit dem Klan zu tun habe. John verneinte alles. Er kenne keine Klan-Mitglieder, hasse keine Homosexuellen, habe keine schwulen Nachbarn und keine Kinder, trinke seit Jahren keinen Alkohol und sei selbst bisexuell. Danach durfte er gehen.
Was das FBI sagte
Zehn Minuten später rief die FBI-Agentin an. Nach ihrem besten Wissen habe er in New Hampshire kein Verbrechen begangen. Gemeldet worden sei der Fall, weil er ein Ziel genannt habe (die Nachbarn), einen Plan (Mord) und den Hinweis, dass der Plan schon laufe (die Klan-Kumpels seien unterwegs). Den Chat habe Anthropic gemeldet. Die Firma lasse Gesprächsprotokolle von anderen KI-Systemen lesen und auffällige Unterhaltungen markieren. Anschließend warf die Agentin John vor, Zeit und Ressourcen der Behörde verschwendet zu haben, und sagte, er stehe jetzt auf einer Liste. Auf welcher, sagte sie nicht.
Bemerkenswert ist zweierlei. Erstens schützte der Inkognito-Modus offenbar nicht vor der automatischen Auswertung. Zweitens erinnert der Ablauf den Autor an Kafkas „Der Process“: Man wird vorgeladen, ohne zu erfahren, was einem vorgeworfen wird.
Die ethische Frage: melden oder nicht?
Patrick forscht zu Risiken, die KI-Modelle für die nationale Sicherheit darstellen. Er hat für seine Arbeit ein Team mit Erfahrung bei Mordkommission, Geheimdiensten und dem Heimatschutzministerium zusammengestellt. Er schildert einen eigenen Fall: Er stieß auf zwei Jahre KI-Chatverlauf eines jungen Forschers, der versehentlich auf GitHub öffentlich geworden war. Herausgegriffene Ausschnitte wirken alarmierend: Es geht um Manipulation, um die Schwächung amerikanischer Institutionen, um Kontakte in einen gegnerischen Staat und darum, wie man einer KI aus ihrer abgeschotteten Testumgebung hilft. Im Gesamtbild waren die meisten Chats aber persönlich und harmlos, über psychische Gesundheit, Sexualität, Unsicherheiten und Alltagsaufgaben.
Seine erfahrenen Kollegen rieten ihm: „Sei langsam mit Schlussfolgerungen.“ Er meldete den Fall nicht der Polizei. Stattdessen informierte er die Hosting-Plattform und den Forscher über das Datenleck, denn die Daten könnten einem ausländischen Geheimdienst helfen, den Forscher anzuwerben. Seine Botschaft an die Leser: Wer einzelne Ausschnitte ohne Zusammenhang liest, kommt leicht zu falschen Urteilen. Und Wissenschaftler aus Einwandererfamilien seien besonders schnell ungerechtfertigtem Misstrauen von Behörden ausgesetzt.
Patricks Kritik an Anthropic
Der Autor hält eine Meldung grundsätzlich für vertretbar, wenn eine Firma in gutem Glauben eine unmittelbare Gefahr sieht. Er kritisiert aber zwei Punkte:
- Nächtliche Einsätze sind gefährlich. Wer in New Hampshire, dessen Motto „Live Free or Die“ lautet, nachts unangekündigt an die Tür hämmert und „FBI“ ruft, dem glaubt man nicht unbedingt, dass er Polizist ist, geschweige denn, dass er nur über einen Chat reden will. Patrick fürchtet, dass solche Situationen in Schusswaffengewalt enden können. Seine Überschrift: Die Polizei nachts zu jemandem nach Hause zu schicken, kann Menschen das Leben kosten.
- Nur den schlimmsten Chat weiterzugeben verzerrt das Bild. Da die Befragung nur einen einzigen Chat betraf, vermutet Patrick, dass Anthropic nur diesen übermittelt hat. So zwinge man die Behörde zum Handeln und nehme ihr die Chance, die Bedrohung im Zusammenhang zu bewerten: Wie verhält sich der Nutzer sonst, hat sich etwas plötzlich verändert?
Seine Forderung ist heikel. Er schlägt vor, Ermittlern Zugriff auf alle Daten eines auffälligen Nutzers zu geben und ihnen notfalls ein Abfragesystem dafür zu bauen. Sollte der Datenschutz das verhindern, müsse man über eine Änderung der Gesetze reden. Kontext gegen Privatsphäre: Diesen Zielkonflikt löst der Text nicht auf. Er stellt aber Fragen, die über den Einzelfall hinausgehen. Sind Gespräche mit einer KI privat und geschützt, so ähnlich wie der eigene Suchverlauf? Und was gilt, wenn manche Interaktionen sofort realen Schaden anrichten können?
Die Gegenseite: Wenn niemand meldet
In einem Nachsatz nennt Patrick selbst das stärkste Gegenargument. Im Juni 2025 markierten OpenAIs Systeme eine ChatGPT-Nutzerin, deren Gespräche Waffengewalt beschrieben. Etwa ein Dutzend Mitarbeiter sah sich das Konto an, einige drängten auf eine Meldung an die Polizei. Die Führung entschied jedoch, die Schwelle sei nicht erreicht, und sperrte nur das Konto. Im Februar 2026 tötete die Nutzerin in Tumbler Ridge in British Columbia acht Menschen und dann sich selbst. Patricks trockenes Fazit: Einfache Antworten gibt es hier offenbar nicht.
Einordnung
Der Fall zeigt deutlich, dass Chats mit KI-Assistenten nicht privat sind, auch nicht im Inkognito-Modus. Anbieter wie Anthropic lassen Gespräche automatisch von KI auswerten und geben Auffälliges im Zweifel an Behörden weiter. Wer Chatbots aus Spaß mit Gewaltfantasien provoziert, muss damit rechnen, dass ein Algorithmus den Unterschied zwischen Trollerei und echter Drohung nicht erkennt, vor allem wenn Ziel, Plan und „läuft schon“ so konkret formuliert sind wie hier.
Gleichzeitig ist vieles unklar. Der Bericht stammt aus zweiter Hand und ist nicht unabhängig bestätigt. Welche Daten Anthropic tatsächlich übermittelt hat und nach welchen Kriterien die Firma meldet, ist nicht bekannt. Patricks Vermutung, es sei nur ein einzelner Chat gewesen, schließt er lediglich aus dem Ablauf der Befragung. Der Konflikt bleibt bestehen: Meldet eine Firma zu wenig, können wie in Tumbler Ridge Menschen sterben. Meldet sie zu schnell und ohne Zusammenhang, drohen gefährliche Polizeieinsätze bei Unschuldigen und eine Überwachung privater Gespräche, die viele Nutzer so nicht erwarten.
Quellen
- Hacker News – AI früh austinpatrick.substack.com
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.