Wie ein „Magic 8 Ball“: Richter rügt Polizisten für Festnahme allein per KI-Gesichtserkennung

Worum es geht

Ein Bundesgericht in den USA hat ein deutliches Signal gegen den blinden Einsatz von KI bei der Polizei gesetzt. Am 9. November 2026 lehnte US-Bezirksrichter S. Chad Meredith vom Eastern District of Kentucky den Antrag des Polizisten Ryan Kilmer ab, eine Klage gegen ihn abzuweisen. Kilmer arbeitet als Detective bei der Polizei von Florence im US-Bundesstaat Kentucky. Geklagt hat Alain Vizcay Osorio, ein Mann aus Nebraska. Er wurde wegen eines Scheckbetrugs festgenommen, mit dem er nichts zu tun hatte. Auslöser war laut Klage ein Treffer einer KI-Gesichtserkennung, den der Polizist ohne jede weitere Prüfung übernommen haben soll.

Der Kern der Entscheidung: Ein Polizist darf die Prüfung, ob ein hinreichender Tatverdacht besteht, nicht komplett einer Software überlassen. Eine Festnahme allein auf Grundlage eines unbestätigten KI-Ergebnisses verstößt laut dem Richter gegen den Vierten Verfassungszusatz der USA. Dieser schützt Bürger vor unangemessenen Durchsuchungen, Beschlagnahmen und Festnahmen durch den Staat.

Der Fall: Ein gefälschter Scheck und ein Screenshot

Die Geschichte beginnt laut Gerichtsunterlagen am 30. August 2024. Ein Mann, der sich als „Ernesto Ramirez“ ausgab, wollte bei der Heritage Bank in Florence, Kentucky, einen mutmaßlich gefälschten Scheck einlösen. Er legte einen texanischen Führerschein vor. Die Bankangestellte hielt das Dokument für gefälscht und zahlte nichts aus, der Mann verließ die Bank ohne Geld. Die Überwachungskameras hatten sein Gesicht unverdeckt aufgenommen.

Einige Wochen später übernahm Detective Kilmer den Fall. Nachdem er festgestellt hatte, dass der Führerschein tatsächlich gefälscht war, wertete er das Kameramaterial aus. Laut Gerichtsunterlagen machte er einen Screenshot vom Gesicht des Mannes und ließ ihn von einer KI-Gesichtserkennung mit einem Polizeifoto aus einer früheren Festnahme (einem sogenannten Booking-Foto) und einem Facebook-Profilbild vergleichen. Solche Programme rechnen Gesichtsmerkmale in Zahlenmuster um und suchen in Bilddatenbanken nach ähnlichen Mustern. Was dabei herauskommt, ist eine Wahrscheinlichkeit und keine Identifizierung.

Kilmer soll sich ausschließlich auf das Ergebnis der KI verlassen und entschieden haben, dass die Bilder übereinstimmen. Ein merkwürdiges Detail: Das Facebook-Profil gehörte einer Person namens Yony Smith Npoles Charon. Aus Gründen, die die Klageschrift nicht erklärt, kam Kilmer trotzdem zu dem Schluss, dass es sich um Alain Vizcay Osorio handle, dessen Foto in den Polizeiakten auftauchte.

Festnahme, Auslieferung, Freispruch

Kilmer unterschrieb eine Strafanzeige. Darin stand, er habe Osorio „mithilfe von Ermittlungswerkzeugen“ als den Mann im Video identifiziert. Mit dieser Anzeige wurde ein Haftbefehl erwirkt. Am 9. Januar 2025 nahmen Beamte Osorio in Florida fest. Der Mann, der in Nebraska lebte, wurde nach Boone County in Kentucky überstellt. Die Anklage lautete auf Besitz eines gefälschten Dokuments ersten und zweiten Grades.

Am 23. Januar wurde ihm die Anklage verlesen, am Tag darauf kam er gegen Kaution frei. Insgesamt saß er also etwa zwei Wochen in Haft. Im März 2025 folgte trotzdem die formelle Anklage durch eine Grand Jury in beiden Punkten. Erst am 7. Mai 2025 ließ die Staatsanwaltschaft die Anklage fallen, und zwar „with prejudice“, also endgültig. Sie kann nicht neu erhoben werden. Osorio hatte nachgewiesen, dass er zur Tatzeit in Nebraska bei der Arbeit war.

Was Osorio dem Polizisten vorwirft

Osorio wirft Kilmer vor, seine Identität vor dem Antrag auf einen Haftbefehl nicht ausreichend geprüft zu haben. Laut Klage unterscheiden sich die Fotos von Osorio und dem Mann aus der Bank deutlich: in Kopfform, Frisur, Gesichtszügen und Hautton. Das Gericht hielt fest, dass die einzigen erkennbaren Gemeinsamkeiten offenbar darin bestanden, dass beide Schwarze Männer mit Bart sind.

Dazu kommt der Vorwurf der Irreführung. Kilmer habe in der Strafanzeige so getan, als habe er Ermittlungswerkzeuge eingesetzt und Fotos selbst verglichen. In Wahrheit habe er sich ausschließlich auf die KI verlassen. Das wiegt besonders schwer, weil die Richtlinien seiner eigenen Behörde vorgaben, dass Gesichtserkennung nur beratenden Charakter hat und ohne weitere Ermittlungen keinen hinreichenden Tatverdacht („probable cause“) begründen kann.

Osorio klagt nach Bundesrecht und nach dem Recht von Kentucky, unter anderem wegen unrechtmäßiger Festnahme, Freiheitsberaubung, böswilliger Strafverfolgung sowie Körperverletzung. Kilmer bestreitet jedes Fehlverhalten. Er argumentiert, Osorio habe nicht dargelegt, dass das vorgeworfene Verhalten gegen „eindeutig etabliertes Recht“ verstoße.

Der Richter und der „Magic 8 Ball“

Genau an diesem Punkt setzt die Entscheidung an. In den USA schützt die sogenannte „qualified immunity“ Staatsbedienstete wie Polizisten vor persönlicher Haftung, solange ihr Verhalten nicht gegen klar etabliertes Recht verstößt. Meist heißt das in der Praxis: Es muss schon ein früheres Urteil zu einem sehr ähnlichen Fall geben. Weil KI-Gesichtserkennung neu ist, hätte sich Kilmer darauf berufen können, dass es dazu noch keine Rechtsprechung gibt.

Richter Meredith ließ das nicht gelten und griff zu einem anschaulichen Vergleich. Er beschrieb einen fiktiven Detective, der einen Verdächtigen mit einem „Magic 8 Ball“ bestimmt, also mit einer Spielzeugkugel, die auf Fragen zufällige Antworten wie „Ja“ oder „Frag später noch mal“ anzeigt. Ein solcher Polizist könne das Ergebnis nicht als einzige Grundlage für einen Haftbefehl nehmen und sich dann auf Immunität berufen, nur weil noch kein Gericht über Magic 8 Balls entschieden habe. Der Richter wörtlich:

„Auch wenn sich die KI-Gesichtserkennung in den vergangenen Jahren rasant entwickelt hat und wahrscheinlich zuverlässiger ist als ein Magic 8 Ball, ist ein unhinterfragtes Vertrauen in diese Technologie im Prinzip nicht viel anders als ein unhinterfragtes Vertrauen in einen Magic 8 Ball. Kein vernünftiger Polizist würde glauben, dass Detective Kilmers mutmaßlich ausschließliches Vertrauen auf KI rechtmäßig ist – zumal Osorios Polizeifoto dem Verdächtigen aus der Überwachungskamera überhaupt nicht ähnlich sieht.“

Meredith kritisierte außerdem, dass der Haftbefehlsantrag nicht offengelegt habe, dass die Identifizierung allein auf KI beruhte. Es gebe gute Gründe für die Annahme, dass der Haftbefehl gar nicht ausgestellt worden wäre, wenn der Detective vollständig erklärt hätte, wie er auf Osorio gekommen war.

Wie es weitergeht

Gewonnen hat Osorio damit noch nicht. Der Richter betonte, dass das Verfahren am Anfang steht. In der sogenannten Discovery, der Phase, in der beide Seiten Beweise offenlegen müssen, könnten neue Erkenntnisse das Bild verändern. Kilmer kann außerdem weitere rechtliche Argumente vorbringen. Das Gericht erlaubte Osorio, eine zweite geänderte Klageschrift einzureichen, und wies Kilmers Antrag auf eine Entscheidung allein auf Basis der Schriftsätze ab. Kilmer muss innerhalb von 14 Tagen antworten. Für den 19. November 2026 ist ein Statustermin angesetzt.

Einordnung

Der Fall reiht sich ein in eine Serie von Fehlfestnahmen nach Treffern von Gesichtserkennungssoftware in den USA. Neu und bemerkenswert ist hier die rechtliche Begründung. Ein Bundesrichter stellt klar, dass ein Polizist sich nicht hinter fehlender Rechtsprechung zu einer neuen Technik verstecken kann, wenn er einer Maschine blind folgt. Die Pflicht, selbst zu prüfen, gilt unabhängig vom Werkzeug. Damit fällt ein wichtiges Schutzschild weg, auf das sich Beamte bei neuen Technologien bisher berufen konnten. Bestätigt sich diese Linie, müssen Polizisten künftig persönlich mit Klagen rechnen, wenn sie KI-Ergebnisse ungeprüft übernehmen.

Der Fall zeigt auch, dass schriftliche Richtlinien allein wenig helfen. Die Polizei von Florence hatte festgelegt, dass Gesichtserkennung nur Hinweise liefert, und trotzdem soll genau das passiert sein, was die Regel verhindern sollte. Hinzu kommt ein bekanntes Problem: Gesichtserkennung liefert bei Menschen mit dunkler Hautfarbe nachweislich häufiger falsche Treffer. Ob das hier eine Rolle spielte, geht aus den Quellen nicht hervor. Der Hinweis des Gerichts, die einzige Gemeinsamkeit sei „Schwarzer Mann mit Bart“ gewesen, wirft diese Frage aber auf.

Wichtig ist auch: Alle Vorwürfe stammen bislang aus der Klageschrift, Kilmer bestreitet sie. Das Urteil sagt nur, dass die Vorwürfe, falls sie zutreffen, schwer genug wiegen, um verhandelt zu werden. Wie der Fall ausgeht, ist offen.