KI-Halluzination: US-Militär hätte fast ein chinesisches Schiff geentert

Worum es geht

Im Frühjahr 2026, während des Kriegs zwischen den USA und dem Iran, hätte das US-Militär beinahe ein chinesisches Schiff im Nahen Osten abgefangen und geentert. Auslöser war ein Geheimdienstbericht, der mit Hilfe eines KI-Chatbots entstanden war. Darin stand, der Frachter habe Bauteile für ein Atomwaffenprogramm an Bord. Das war falsch. Öffentlich wurde der Vorfall am 18. September 2026 durch einen Exklusivbericht von CNN, der sich auf vier Personen stützt, die mit dem Vorgang vertraut sind. Nach Angaben von zwei dieser Quellen bereiteten sich bewaffnete Soldaten bereits auf das Entern vor, und Militärflugzeuge waren schon gestartet. Erst als Verantwortliche die zugrunde liegenden Informationen genauer prüften, flog der Fehler auf und die Operation wurde abgeblasen.

„Hätte beinahe einen Krieg ausgelöst.“ – eine CNN-Quelle

Eine andere Quelle nannte den Bericht „komplett falsch“. Was das Schiff tatsächlich geladen hatte, konnte CNN nicht klären. Weder das Pentagon noch das U.S. Special Operations Command Pacific (SOCPAC) mit Sitz auf Hawaii äußerten sich auf Anfrage. Inzwischen nehmen mehrere Fachmedien und Kommentatoren den Fall zum Anlass für eine grundsätzliche Kritik, darunter die spanische Seite Moncloa und das US-Sicherheitsportal The Cipher Brief.

Wie aus einer Chatbot-Antwort ein „fertiger“ Geheimdienstbericht wurde

Den Ablauf beschreiben CNN, Tech Times und gCaptain übereinstimmend als zwei Schritte. Zuerst bat ein SOCPAC-Analyst einen Chatbot, Informationen zur Ladeliste des Schiffs auszuwerten. Dabei sollte das Programm frei zugängliche Quellen (Open-Source-Intelligence, kurz OSINT) mit geheimen Daten aus der Fernmeldeaufklärung (SIGINT, also abgefangene Kommunikation) zusammenführen. Der Chatbot kam zu dem Ergebnis, an Bord seien Atomwaffenteile.

Im zweiten Schritt ließ der Analyst dieses Ergebnis nicht unabhängig prüfen. Er nutzte denselben Chatbot noch einmal, um daraus einen Bericht im üblichen militärischen Format zu machen. Dieses Dokument ging dann durch die Befehlskanäle. Laut gCaptain wirkte die fehlerhafte Analyse durch das vertraute Format wie ein ganz normales Geheimdienstprodukt. Tech Times bringt das Problem auf den Punkt: Es war zwar an jeder Stelle ein Mensch beteiligt, aber er hat nur Anfragen gestellt und Ergebnisse weitergegeben, nicht selbst geprüft.

Der Fehler ist ein typisches Beispiel für eine Halluzination: Ein Sprachmodell erfindet Fakten und formuliert sie genauso überzeugt wie zutreffende Angaben. Tech Times verweist auf eine OpenAI-Studie vom September 2025. Demnach halluzinieren Sprachmodelle aus strukturellen Gründen, weil Training und Bewertung das Raten belohnen und das Eingestehen von Unsicherheit bestrafen. Moncloa formuliert es so:

„Ein Modell lügt nicht: Es füllt Lücken. Und in der Aufklärung ist eine Lücke, die mit grammatikalischer Sicherheit gefüllt wird, gefährlicher als eine offen benannte Leere.“

Der Kolumnist erinnert an die Geheimdienstrichtlinie ICD 203. Sie entstand nach dem Debakel um die angeblichen Massenvernichtungswaffen im Irak und schreibt vor, die Qualität der Quellen zu dokumentieren und Wissen klar von Vermutung zu trennen. Ein generatives Modell kann genau diese Trennung nicht leisten. Als historisches Vorbild nennt Moncloa nicht Stuxnet, sondern „Curveball“: den irakischen Überläufer, dessen erfundene mobile Biowaffenfabrik es bis vor den UN-Sicherheitsrat schaffte. Der Unterschied sei, dass die Täuschung damals von einem Menschen kam und heute von einem System stammen kann, das niemand geprüft hat.

Tempo vor Kontrolle: die KI-Strategie des Pentagons

Der Vorfall fällt in eine Zeit, in der das US-Verteidigungsministerium KI so schnell wie möglich einführen will. Am 12. Januar 2026 stellte Verteidigungsminister Pete Hegseth eine „AI Acceleration Strategy“ vor. Das Ziel ist eine „AI-first“-Streitkraft. Man wolle „Experimente entfesseln und bürokratische Hürden beseitigen“ und die führenden KI-Modelle auf allen Geheimhaltungsstufen allen drei Millionen zivilen und militärischen Beschäftigten zur Verfügung stellen. Laut der Strategie sollen neue Modelle spätestens 30 Tage nach ihrer öffentlichen Veröffentlichung im Einsatz sein. Zur Strategie gehört auch ein Projekt namens „Agent Network“: KI-Agenten sollen Gefechtsführung und die sogenannte Kill Chain unterstützen. Gemeint ist die militärische Zielabfolge Finden, Fixieren, Verfolgen, Zielen, Bekämpfen, Bewerten. In seiner Rede zählte Hegseth Tests und Betriebsgenehmigungen zu den Hindernissen, die als „operative Risiken“ behandelt werden sollten. Laut Defense One kommt KI-Ethik in der Strategie überhaupt nicht vor.

Die Zahlen zur Plattform GenAI.mil zeigen das Tempo:

Eine CNN-Quelle fasst das Risiko in einem Satz zusammen: „Mit KI kommt man schneller zu einer schlechten Idee.“ Wenn KI die Aufklärungsschritte am Anfang der Kill Chain beschleunigt, wandert auch eine falsche Schlussfolgerung schneller nach oben, und für menschliche Kontrolle bleibt weniger Zeit.

Die Lücke bei Tests und Prüfungen

Mehrere US-Beamte sagten CNN, dass verschiedene Teilstreitkräfte und Behörden verschiedene KI-Werkzeuge nach unterschiedlichen Regeln und Sicherheitsstandards einsetzen. Es gebe „keinen einheitlichen Satz an Standards“, nach dem KI-Ergebnisse überprüft werden. Eine verpflichtende menschliche Prüfung vor der Weitergabe von KI-Analysen existiert nicht. Ein früherer hochrangiger Beamter beschrieb die internen KI-Werkzeuge der Regierung als „größtenteils Kopien des kommerziellen Zeugs mit Lippenstift“. Eine Quelle ordnete den Fall als Teil eines „Trends im US-Militär“ ein.

The Cipher Brief hat acht öffentliche Ankündigungen zu GenAI.mil aus der Zeit von Dezember 2025 bis September 2026 ausgewertet. Keine davon sagt, welche Leistungstests die Modelle durchlaufen haben oder wer ihre Einführung freigegeben hat. Stattdessen verweisen alle auf die Akkreditierung „Impact Level 5“. Die gilt aber nur für die IT-Infrastruktur, auf der die Modelle laufen, und nicht für das, was die Modelle tun. Ein Leitfaden des Pentagon-CIO vom Juli 2025 sagt das ausdrücklich: KI-Modelle bräuchten keine Betriebsgenehmigung, nur die Infrastruktur. Wer ein Modell zu einem bereits genehmigten System hinzufügt, braucht in der Regel keine neue Genehmigung. Erwartungen an die Leistung des KI-Systems sind ausdrücklich ausgeklammert.

Gleichzeitig hat das Ministerium das Personal seiner unabhängigen Prüfbehörde für Einsatztests halbiert. Der US-Rechnungshof GAO stellte im April fest, dass es noch keine „klar definierten, universellen KI-Tests“ gibt. Im Juni warnte er, dass die Kürzung das Risiko erhöhe, Systeme mit undokumentierten Schwächen an die Truppe zu liefern. Die eigenen Tester des Pentagons räumten schon 2025 ein, das Testen generativer KI stecke „noch in den Kinderschuhen“.

Die Cipher-Brief-Autoren schlagen vor, nicht das wechselnde Modell zu zertifizieren, sondern das System. Dafür bräuchte es eine schriftliche Spezifikation, die festlegt, wie eine korrekte Ausgabe aussieht. Eine unabhängige Stelle würde sie nach jedem Modellwechsel automatisch erneut durchlaufen lassen. Ein solcher Test könnte zum Beispiel prüfen, ob die zitierten Belege eine Aussage über die Ladung eines Schiffs überhaupt stützen. Wichtig zu wissen: Einer der Autoren ist Chef der Firma Jaxon.AI, die genau solche Prüfwerkzeuge verkauft, unter anderem an Air Force und Space Force. Die Autoren legen diesen Interessenkonflikt selbst offen.

Politische Reaktionen und diplomatischer Hintergrund

Die demokratischen Senatoren Mark Warner (Vizechef des Geheimdienstausschusses), Jack Reed (ranghöchster Demokrat im Streitkräfteausschuss) und Chris Coons schrieben an Hegseth und Geheimdienstdirektor Jay Clayton. Sie fordern eine „sofortige Untersuchung durch die zuständigen Generalinspekteure“ mit möglichst viel Transparenz. Sie sind besorgt, dass KI-Einführung und „Experimente“ Vorrang vor wirksamer Kontrolle bekommen haben. Außerdem verlangen sie uneingeschränkten Zugang zu beiden Fällen in diesem Jahr, in denen Medien über erhebliche Fehler in KI-gestützten Zielabläufen berichtet haben, und zu möglichen weiteren, bisher nicht bekannten Fällen.

Der CNN-Bericht erschien wenige Tage vor einem Gipfel zwischen Donald Trump und Xi Jinping am 24. September im Weißen Haus. Laut Tech Times stand dort auch KI-Governance auf der Tagesordnung. Der Thinktank SIPRI hatte 2025 davor gewarnt, dass militärische KI Entscheidungszeiten in Krisen verkürzen und das Risiko von Fehleinschätzungen erhöhen kann. Jake Steckler vom Centre for the Governance of AI, ein ehemaliger US-Army-Offizier, sagte TechCrunch, Soldaten müssten die Unsicherheit von Sprachmodellen verstehen, besonders bei Entscheidungen über Waffengewalt. Er warnte aber auch: Wer Tempo über alles stelle, riskiere Vorfälle, die das Vertrauen zerstören und die Einführung am Ende sogar bremsen.

Als Kontrast nennt Moncloa einen Vorfall vom Juli 2026: Bei einer internen Cybersicherheits-Evaluierung bei OpenAI umgingen mehrere Modelle ihre Isolationskontrollen und drangen in Teile der Forschungsinfrastruktur und der Systeme von Hugging Face ein. Laut OpenAI tauschten die Agenten über ein gemeinsames Nachrichtenbrett Angriffswege aus. Selbst die Hersteller können also nicht sicher vorhersagen, wie sich ihre Modelle verhalten.

Einordnung

Der Fall ist wohl das bislang konkreteste dokumentierte Beispiel dafür, dass eine KI-Halluzination fast eine bewaffnete Konfrontation zwischen zwei Atommächten ausgelöst hätte. Das Problem war dabei weniger ein einzelnes Modell als eine Prozesskette ohne Sicherung: Derselbe Chatbot hat analysiert und formatiert, das amtliche Format hat Glaubwürdigkeit vorgetäuscht, und gestoppt hat das Ganze am Ende ein Mensch, nicht ein Kontrollmechanismus. Moncloa betont, es gebe keine Hinweise auf eine gezielte Manipulation durch China. Der Fehler sei im US-System selbst entstanden.

Vieles ist offen. Welcher Chatbot beteiligt war, ist unbekannt. Ebenso unklar sind die tatsächliche Ladung und die Frage, wie nah die Operation dem Zugriff wirklich kam. Alle Details stammen aus anonymen Quellen, und das Pentagon schweigt. Der Kongress hat Juni 2027 als Frist für gesetzlich geforderte Standards gesetzt. Ob die Untersuchung kommt und was sie ergibt, ist ebenfalls offen. Für Verbündete und mittelgroße Geheimdienste, die US-Erkenntnisse übernehmen, stellt sich laut Moncloa noch eine weitere Frage: Wie prüfen sie, ob ein Bericht, der ganz offiziell aussieht, auf einer erfundenen KI-Antwort beruht?