KI hält Chipstüte für Waffe: Polizei legt Schülern Handschellen an, jetzt kommt die Klage

Eine KI-Waffenerkennung an einer Schule in Maryland hielt eine Tüte Doritos für eine Schusswaffe. Obwohl das Personal den Alarm nach wenigen Minuten aufgehoben hatte, rückte die Polizei mit gezogenen Waffen an und legte vier schwarzen Jugendlichen Handschellen an. Die Vier verklagen nun Schule, Polizei und den Hersteller Omnilert.

Branche 19. Nov. 2026 7 Min. Lesezeit Quelle: Ars Technica – AI
Symbolbild, KI-generiert

Worum es geht

Am Abend des 20. Oktober 2025 warteten vier Jugendliche nach dem Footballtraining vor der Kenwood High School in Baltimore County (US-Bundesstaat Maryland) darauf, abgeholt zu werden. Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. und Keith Winfield III waren damals alle 16 Jahre alt. Der Trainer hatte Tüten mit Cool-Ranch-Doritos verteilt, und die Freunde saßen an den Picknicktischen und aßen.

Dann schlug die KI-Waffenerkennung der Schule Alarm. Das System Omnilert Gun Detect wertet die Bilder der vorhandenen Überwachungskameras aus und sucht darin nach Schusswaffen. Es hielt Allen mit seiner Chipstüte für einen möglichen Schützen. Kurz darauf umstellten mindestens sechs Streifenwagen die Jugendlichen. Beamte stiegen mit gezogenen Waffen aus, zwangen die Vier auf die Knie, legten ihnen Handschellen an und durchsuchten sie. Eine Waffe fanden sie nicht.

Ein gutes Jahr später, an diesem Dienstag, haben die vier aktuellen und ehemaligen Schüler beim Circuit Court von Baltimore County Klage eingereicht. Darüber berichten unter anderem Ars Technica, NBC News, Atlanta Black Star und der Guardian (via AOL).

Ein Fehlalarm, der eigentlich schon erledigt war

Besonders brisant ist, dass der Fehler schnell erkannt wurde. Laut Ars Technica prüften Mitarbeiter der Schulbehörde innerhalb von zwei Minuten die verknüpften Kameraaufnahmen, erkannten die Doritos-Tüte und hoben den Alarm auf. Die Aufhebung ging an die übrigen Schulverantwortlichen in der Meldekette und auch an die Polizei von Baltimore County, mit dem Hinweis, dass kein Einsatz nötig sei.

Die Klage beschreibt die weitere Kette aus „technischen und menschlichen Fehlern“ so: Die 31-seitige Klageschrift, aus der Atlanta Black Star zitiert, wirft Schulleiterin Catherine Smith vor, die Aufhebung nicht zur Kenntnis genommen und auch nicht geprüft zu haben, ob die Warnung noch aktiv war. Mehr als zehn Minuten nach der Aufhebung soll sie einen Screenshot von Allen mit der Chipstüte an den School Resource Officer geschickt haben, einen an der Schule eingesetzten Polizisten. Er leitete das Bild an die Polizei weiter, und damit begann der bewaffnete Einsatz. Laut Klage stand die Gruppe gegen 19:21 Uhr umringt von sechs Streifenwagen. Allen selbst sprach gegenüber dem Sender WBAL-TV sogar von „etwa acht Polizeiautos“.

„Niemand sagte den Schülern, was ihnen vorgeworfen wurde“, heißt es in der Klage. „Die Beamten trennten die Schüler, befahlen ihnen, sich auf den Beton zu knien, legten ihnen Handschellen an und durchsuchten sie und ihre Sachen.“

Allen erzählte WBAL, er habe die leere Tüte zusammengeknüllt und in die Tasche gesteckt. Die Beamten hätten die Tüte schließlich auf dem Boden gefunden, an der Stelle, wo er gestanden hatte.

Was die Polizisten sagten und was die Schulleiterin schrieb

Erst nach der Durchsuchung erfuhren die Jugendlichen, dass Omnilert den Einsatz ausgelöst hatte. Laut Klage murmelte ein Beamter „dumme KI-Kameras“ und „verdammte Omnilerts“, ein anderer sagte: „KI ist nicht die beste.“ Ein weiterer, laut Klage Corporal Michael Foehrkolb, soll gesagt haben: „Hey, danke, dass ihr nicht weggelaufen seid, das wäre ein echtes Problem gewesen.“ Ein Kollege scherzte laut Guardian: „Seid vorsichtig auf dem Schulgelände, besonders wenn ihr so was haltet … passt auf mit euren Chipstüten.“

Die Klage enthält auch eine Nachricht, die Schulleiterin Smith danach an Kollegen geschickt haben soll: „Keine Sorge. Der SRO hat einen Streifenwagen vorbeifahren lassen. Es war eine Chipstüte“, dazu vier Tränen lachende Emojis. Laut Freya Jamison vom Lawyers' Committee for Civil Rights Under Law haben sich weder Smith noch die Schule öffentlich entschuldigt. Smith arbeitet weiterhin an der Kenwood High School.

Die Jugendlichen berichten von Schmerzen durch zu eng angelegte Handschellen und von anhaltender seelischer Belastung. Allen sagt laut Guardian, er fühle sich nach Schulschluss auf dem Gelände nicht mehr sicher und bezahle oft für eine Fahrt nach Hause, um nicht warten zu müssen.

Wie zuverlässig ist Omnilert?

Laut Klage stufte das System die Chipstüte mit 90 Prozent Konfidenz als Schusswaffe ein. Die Konfidenz ist der Wert, mit dem eine KI angibt, wie sicher sie sich bei einer Einschätzung ist. Omnilert wirbt mit „weniger Fehlalarmen“. Die Klage zitiert dagegen eine Feststellung der Schulaufsicht von Maryland, des Office of the Inspector General for Education: Mehr als 99 Prozent der Omnilert-Alarme an den Schulen von Baltimore County seien False Positives gewesen, also Fehlalarme, bei denen kein Polizeieinsatz nötig war.

Die Schulaufsicht selbst bewertet den Fall etwas anders. In einem Bericht vom November 2025 stellte sie laut NBC News keine Hinweise auf rassistische Voreingenommenheit fest. Das System habe nicht die blaue Chipstüte als Bedrohung erkannt, sondern die Handbewegung des Schülers, also deren Position und Winkel. Richard Henry von der Behörde sagte im Dezember im Radiosender WBAL, die Tüte sei neben der Hüfte gewesen, „ein paar Finger drin, ein paar draußen“. Das schwache Licht und die Haltung hätten zur Warnung beigetragen. Den eigentlichen Fehlalarm schrieb er menschlichem Versagen bei der Sichtung der Bilder auf einem Handy zu.

Die Klage verweist außerdem auf einen Fall, in dem das System das Gegenteil tat: Im Januar 2025 erkannte Omnilert an der Antioch High School in Nashville die Waffe eines Schützen nicht. Bei dem Angriff in der Cafeteria starben zwei Schüler, darunter der Täter, eine weitere Person wurde verletzt. Laut Klage erhielt Omnilert 2022 das Patent für die KI-Waffenerkennung, ab 2023 tauchte das System an Schulen in Baltimore County auf.

Die Klage und ihre Forderungen

Vertreten werden die Jugendlichen vom Lawyers' Committee for Civil Rights Under Law, unterstützt von Anwälten der Kanzleien Willkie Farr & Gallagher und Engel Law Group, die ohne Honorar arbeiten. Beklagt sind Omnilert, die Schulbehörde Baltimore County Public Schools, Schulpersonal einschließlich der Schulleiterin, die Polizei von Baltimore County und einzelne Beamte. Die Vorwürfe lauten auf Verletzung bundes- und landesverfassungsrechtlich geschützter Rechte, unrechtmäßige Durchsuchung und Festnahme, Freiheitsberaubung sowie Fahrlässigkeit und grobe Fahrlässigkeit.

Neben Schadenersatz verlangen die Kläger geänderte Abläufe bei Schule und Polizei. Vor allem sollen KI-Warnungen unabhängig überprüft werden müssen, bevor bewaffnete Beamte ausrücken. Damon Hewitt, Präsident des Lawyers' Committee, sagte:

„Diese Schüler wurden nicht nur von einer Technik im Stich gelassen, die zu Fehlalarmen neigt, sondern auch von genau den Erwachsenen, die sie schützen sollten.“

Leah Frazier, Leiterin der Digital Justice Initiative der Organisation, findet: „Das hätte nie an die Polizei eskaliert werden dürfen.“ Omnilert, die Polizei und die Schulbehörde wollten sich zum laufenden Verfahren nicht äußern. Ein Omnilert-Sprecher sagte zuvor der Baltimore Banner, man prüfe die Klage und es tue dem Unternehmen „aufrichtig leid, welche Angst sie und ihre Familien erlebt haben“.

Allen geht weiter auf die Kenwood High School, die anderen drei haben ihren Abschluss gemacht und studieren inzwischen. Keiths Mutter Freida Winfield war gerade auf dem Weg, um die Jungen abzuholen: „Kein Kind in Baltimore County sollte so einer Gefahr ausgesetzt sein, während es vor der eigenen Schule darauf wartet, dass seine Mutter es abholt.“

Einordnung

Der Fall zeigt, wie KI-Fehlalarme und menschliche Versäumnisse zusammenwirken können. Die Software lag falsch, doch das System funktionierte zunächst so, wie es soll: Menschen prüften die Meldung und hoben sie auf. Gefährlich wurde es erst, weil diese Information verloren ging und ein Screenshot ohne Kontext eine bewaffnete Polizeiaktion auslöste. Ein „Mensch in der Schleife“ schützt also nur, wenn die Kommunikationswege zuverlässig sind.

Gleichzeitig wirft die Zahl von über 99 Prozent Fehlalarmen grundsätzliche Fragen auf. Wenn fast jeder Alarm falsch ist, gewöhnen sich die Verantwortlichen entweder an das Wegklicken, oder jede Meldung wird zu einem potenziell gefährlichen Polizeieinsatz gegen Unbeteiligte. Und der Fall in Nashville zeigt, dass solche Systeme echte Waffen auch übersehen können.

Offen ist, wie das Gericht die Mitverantwortung des Herstellers bewertet. Umstritten bleibt auch die Frage nach Voreingenommenheit: Die Schulaufsicht fand keine Belege dafür, die Anwälte verweisen dagegen auf die besonderen Gefahren, denen junge schwarze Männer bei bewaffneten Polizeieinsätzen ausgesetzt sind. Für Schulen, die über KI-Überwachung nachdenken, ist der Fall eine Warnung, verbindliche Prüfregeln zu schaffen, bevor die Polizei auf Grundlage eines Algorithmus anrückt.

Quellen

#überwachung#fehlalarm#omnilert#klage#schule#bürgerrechte
Originalquelle lesen

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.