Chipstüte, Wasserflasche, Schere: Was KI-Waffenscanner wirklich erkennen

In den USA hält eine KI eine Chipstüte für eine Pistole, ein WLAN-Scanner verwechselt Trinkflaschen mit Waffen, und ein Kamerasystem übersieht bei einem Amoklauf die echte Waffe. Wir haben die Werbeversprechen der Hersteller neben die belegten Fehlerzahlen gelegt und nachgerechnet, warum fast jeder Alarm falsch ist. Und was das für die KI-Kameras bedeutet, die gerade am Kottbusser Tor, in Bremer Straßenbahnen und an Bahnhöfen der Bundespolizei kommen.

Analysen 19. Nov. 2026 10 Min. Lesezeit Eigene Analyse der Redaktion
Symbolbild, KI-generiert

Darum geht es

Diese Woche häufen sich Meldungen über KI-Waffendetektoren, die sich irren. Am 17. November haben vier Schüler der Kenwood High School in Baltimore County Klage gegen den Hersteller Omnilert eingereicht. Dessen Kamera-KI hatte eine Chipstüte als mögliche Schusswaffe gemeldet, laut Klage „mit 90 % Wahrscheinlichkeit“. Etwa zur selben Zeit wurde bekannt, dass die Hempfield Area High School in Pennsylvania den WLAN-Waffenscanner Wi-AI des Start-ups CurvePoint nicht einführt, weil er ständig Alltagsgegenstände für Waffen hielt. Schon im Frühjahr hatte Pinellas County in Florida einen Pilotversuch mit Waffendetektoren nach zehn Tagen abgebrochen. Und Omnilert wird auch aus dem umgekehrten Grund verklagt: Beim Amoklauf an der Antioch High School in Nashville soll das System die echte Waffe übersehen haben.

Unsere Frage lautet: Was können diese Systeme nachweislich, und was versprechen die Hersteller nur? Daraus folgt eine zweite Frage, denn in Deutschland gehen gerade ähnliche Systeme in Betrieb: am Kottbusser Tor in Berlin, in Bremer Straßenbahnen und, mit dem neuen Bundespolizeigesetz, an Bahnhöfen.

Die Fälle: Fehlalarm, Fehlalarm, übersehene Waffe

Baltimore. Am 20. Oktober 2025 warteten vier schwarze Jugendliche nach dem Footballtraining vor der Schule auf ihre Abholung. Omnilert Gun Detect wertet die Bilder von Überwachungskameras aus und meldete eine mögliche Schusswaffe. Laut Lawyers' Committee for Civil Rights Under Law, das die Kläger vertritt, mussten sie sich hinknien, wurden gefesselt und durchsucht. NBC News spricht von „mindestens sechs“ Polizisten, viele davon mit gezogener Waffe. Pikant ist der Ablauf, den The Banner aus dem Bericht des Generalinspektors für Bildung in Maryland wiedergibt: Um 19:04 Uhr ging der Alarm ein, um 19:05/19:06 Uhr erklärte das Sicherheitspersonal ihn für hinfällig. Um 19:17 Uhr meldete die Schulleiterin ihn trotzdem dem Schulpolizisten, um 19:23 Uhr war die Polizei vor Ort. Omnilert räumte einen „False Positive“ ein, also einen Fehlalarm, erklärte aber, das System habe „wie vorgesehen funktioniert“. Der Generalinspektor fand keine Hinweise auf rassistische Verzerrung. Die KI habe auf eine Handbewegung reagiert, nicht auf die Tüte selbst.

Hempfield. CurvePoint ist eine Ausgründung der Carnegie Mellon University. Wi-AI soll aus Reflexionen von WLAN-Signalen versteckte Waffen in Rucksäcken erkennen, ganz ohne Kamera. Der kostenlose Test lief laut Gigazine von Dezember 2025 bis August 2026. Das Ziel lag bei 95 % Genauigkeit. Schulleiter Mark Holtzman sagte dazu laut Gadgetreview:

„Es ist nicht annähernd bei 95 %, so viel kann ich sagen.“

Ordner, Metall-Trinkflaschen und Powerbanks lösten Alarme aus. „Es sind die Fehlalarme, nicht die Erkennung“, sagte Holtzman. Die Schule nutzt wieder ihre Durchgangsdetektoren von OpenGate. CurvePoint-Chef Skip Smith spricht inzwischen von einem „Test- und Evaluationsstandort“, nicht von einem regulären Einsatz. Die Pressemitteilung vom Dezember hatte die Schule noch als Einsatzort angekündigt. Auf der Produktseite nennt CurvePoint bis heute keine einzige Genauigkeits- oder Fehlalarmzahl.

Pinellas County. Der Hersteller wurde nicht genannt. An der Gibbs High und der Palm Harbor University High startete der Pilot am 7. April 2026 und endete am 17. April. Laut Fox13 lösten Laptops, Scheren und Trinkflaschen Fehlalarme aus, dazu kamen lange Schlangen vor dem Eingang. Laut Tampa Bay Beacons hätte ein flächendeckender Einsatz bis zu 20 Millionen Dollar gekostet, und pro Kontrollpunkt wären drei bis vier Mitarbeiter nötig gewesen. Der Bezirk verzichtet nun auf Detektoren an den Eingängen und kauft höchstens zwei Geräte für Stichproben.

Antioch. Am 22. Januar 2025 erschoss ein 17-Jähriger in der Cafeteria eine Mitschülerin und tötete sich anschließend selbst. Laut WSMV war das Omnilert-System installiert und in Betrieb, erkannte die Pistole aber nicht. Der verletzte Schüler Antonyous Henin klagt seit dem 1. Mai 2026 vor dem Circuit Court von Davidson County. Omnilert habe mit Erkennung „bevor ein Schuss fällt“ geworben, aber nicht über Grenzen wie Kamerawinkel, Entfernung, Licht und Sichtbarkeit der Waffe aufgeklärt. Später habe die Firma ihre Website entschärft. Genau dieses Versprechen steht noch heute in den FAQ auf omnilert.com: Waffen sollen früh erkannt werden, „bevor Schüsse fallen“.

Herstellerversprechen gegen belegte Zahlen

System Versprechen Belegte Zahl Quelle
Omnilert (Kamera-KI) Erkennung in „Bruchteilen von Sekunden“, „bevor Schüsse fallen“ über 99 % der Alarme in Baltimore County (Nov. 2023 bis Nov. 2025) ohne nötigen Polizeieinsatz; Waffe in Antioch übersehen (laut Klage) Generalinspektor Maryland, WSMV
Evolv Express (Durchgangsscanner) erkennt „alle Waffen“, ignoriert harmlose Gegenstände 7-Zoll-Messer übersehen; danach 50 % Fehlalarme FTC 2024
Evolv Express dto. große Messer in 24 Durchgängen zu 42 % nicht erkannt privater NCS⁴-Testbericht, laut BBC/IPVM
Evolv in der New Yorker U-Bahn — 2.749 Scans, 118 Fehlalarme, 12 Messer, 0 Schusswaffen NYPD, laut City & State
CurvePoint Wi-AI Zielwert 95 % Genauigkeit „nicht annähernd“ erreicht Schulbezirk Hempfield

Der Fall Evolv ist am besten dokumentiert. Die FTC (Federal Trade Commission, die US-Verbraucherschutzbehörde) warf der Firma im November 2024 vor, sie habe fälschlich damit geworben, alle Waffen zu erkennen und Fehlalarme zu senken. Laut FTC stehen die Scanner in über 800 Schulen in 40 Bundesstaaten. Bei einem Messerangriff im Oktober 2022 hatte ein Scanner das Messer nicht bemerkt. Danach drehte die Schule die Empfindlichkeit hoch, und die Fehlalarmquote stieg auf 50 %. Evolv darf seitdem keine unbelegten Leistungsversprechen mehr machen, und bestimmte Schulen dürfen ihre Verträge kündigen. Ein Schuldeingeständnis gab es nicht. Evolv betonte, die FTC habe die „Kernwirksamkeit“ nicht infrage gestellt. Die Schule in Utica, die das Messer betraf, baute die Scanner laut Berichten wieder ab, Monate nach einem Vertrag über fast 4 Millionen Dollar.

Der Fall Evolv zeigt ein Grundproblem: Empfindlichkeit und Fehlalarme sind zwei Enden derselben Stellschraube. Wer weniger übersehen will, bekommt mehr falsche Alarme, und umgekehrt.

Das Basisraten-Problem, nachgerechnet

Warum „95 % Genauigkeit“ wenig aussagt, zeigt eine einfache Rechnung. Laut der US-Bildungsstatistik NCES hatten im Schuljahr 2021/22 rund 5.000 Schüler eine Schusswaffe in der Schule dabei. Das sind 10 pro 100.000 Schüler und Jahr. Die Basisrate, also wie häufig das Gesuchte überhaupt vorkommt, ist damit winzig.

Unsere Beispielschule hat 1.500 Schüler und 180 Schultage, das ergibt 270.000 Durchgänge pro Jahr. Statistisch kommt dort ein Waffenfall alle sechs bis sieben Jahre vor (0,15 pro Jahr). Nehmen wir großzügig an, der Detektor erkennt 95 % aller echten Waffen. Entscheidend ist dann, wie oft er bei harmlosen Schülern anschlägt:

Fehlalarme pro Durchgang Fehlalarme pro Jahr echte Treffer pro Jahr Anteil echter Alarme
4,3 % (Wert aus dem New Yorker U-Bahn-Test) ca. 11.600 0,14 ca. 0,001 %
1 % 2.700 0,14 ca. 0,005 %
0,1 % 270 0,14 ca. 0,05 % (1 von ~1.900)
0,01 % 27 0,14 ca. 0,5 %

Selbst ein Gerät, das nur bei jedem zehntausendsten Schüler fälschlich anschlägt, liefert also zu über 99 % Fehlalarme. Und ein Detektor, der nie Alarm schlägt, wäre in dieser Schule zu 99,9999 % „genau“, denn fast jeder Durchgang ist harmlos. Deshalb ist eine Genauigkeitsangabe ohne getrennte Zahlen für übersehene Waffen und für Fehlalarme fast wertlos.

Unsere Einschätzung: Die über 99 % Fehlalarme in Baltimore sind kein Ausreißer, sondern genau das, was die Mathematik erwarten lässt. Der eigentliche Schutz ist dann die menschliche Prüfung. In Baltimore hat sie funktioniert, die Schulsicherheit hob den Alarm nach zwei Minuten auf. Der Kommunikationsweg hat versagt. Wer solche Systeme einführt, kauft also vor allem einen Strom an Alarmen, den Menschen zuverlässig aussortieren müssen.

Was in Deutschland kommt

Bundespolizei. Innenminister Alexander Dobrindt (CSU) hatte sich im März 2026 für KI-Kameras an Bahnhöfen ausgesprochen. Nach einer ungültigen Abstimmung im Juli beschloss der Bundestag die Reform des Bundespolizeigesetzes am 25. September, der Bundesrat stimmte noch am selben Tag zu. Die Bundespolizei darf nun Bewegungsmuster per KI auswerten, wenn sie auf eine mögliche Straftat hindeuten. Der Bundesrat nennt als Beispiel, dass jemand ein Messer zieht. Laut netzpolitik.org sah der Änderungsantrag außerdem Live-Gesichtserkennung vor, ebenso das Verfolgen von Personen über mehrere Kameras und das Erkennen von Waffen und hilflosen Menschen. Voraussetzung ist eine richterliche Anordnung, zwei Beamte sollen jeden Treffer prüfen. Die Evaluation nach zwei Jahren erfolgt „im Zusammenwirken mit“ einer wissenschaftlichen Einrichtung, ist also nicht unabhängig.

Berlin, Kottbusser Tor. Seit Anfang November läuft dort eine vierwöchige Testphase mit 30 Kameras an 15 Standorten. Laut Tagesspiegel/dpa soll die KI Schlägereien an typischen Bewegungsmustern erkennen. Dann ertönt auf der Wache ein Signal, und das Livebild erscheint auf dem Bildschirm. Gesichtserkennung gibt es nicht, die Aufnahmen werden nach 30 Tagen gelöscht. Als Nächstes sind Warschauer Brücke, Alexanderplatz und Görlitzer Park geplant. Linke und Grüne klagen vor dem Berliner Verfassungsgerichtshof. Fehlerquoten wurden nicht veröffentlicht.

Bremen. Das System „AI Watch“ des Bremer Start-ups Just Add AI läuft seit April 2025 in Straßenbahnen der BSAG. Laut ZDF sind 17 Bahnen ausgerüstet, bis Jahresende sollen es 43 sein. Eine Bahn auszurüsten kostet rund 10.000 Euro, der Bund zahlt 80 %. Die Bilder werden vor der Auswertung verpixelt und nicht gespeichert. Auch hier gibt es keine Zahl zu Fehlalarmen.

Beim Vorbild Mannheim spricht die Polizei nach rund acht Jahren Test von „täglichen Fehlalarmen“, nennt aber laut netzpolitik.org weder die Gesamtzahl der Alarme noch eine Wirksamkeitsbilanz. Diese soll nun Ende 2026 kommen statt wie geplant 2023. Der einzige ausführlich dokumentierte deutsche Test bleibt der am Berliner Südkreuz von 2017/18. Das Innenministerium meldete über 80 % Treffer bei unter 0,1 % Falscherkennungen. Laut CCC kam der 80-%-Wert aber nur durch das Kombinieren dreier Systeme zustande. Das beste Einzelsystem erreichte 65,8 %, an einem Standort lag ein Anbieter bei 18,9 %.

Rechnen wir das Basisraten-Problem auf einen Bahnhof um: Am Hamburger Hauptbahnhof sind laut Deutscher Bahn täglich rund 550.000 Menschen unterwegs. Bei einer Falscherkennungsrate von 0,1 % wären das etwa 550 Fehlalarme am Tag, die jeweils zwei Beamte prüfen müssten. In Bremen zählt die BSAG im Schnitt etwa 150 polizeirelevante Vorfälle pro Jahr bei über 100 Millionen Fahrgästen, also rund 1,5 pro Million Fahrten. Auch das ist eine extrem niedrige Basisrate.

Rechtsrahmen. Der EU AI Act verbietet in Artikel 5 biometrische Echtzeit-Fernidentifizierung durch die Polizei im öffentlichen Raum, also das Erkennen von Gesichtern in Echtzeit. Ausnahmen gelten etwa bei Entführungsopfern, konkreter Lebensgefahr oder schweren Straftaten, und auch dann nur mit vorheriger Genehmigung. Reine Objekt- oder Verhaltenserkennung ohne Identifizierung fällt nicht unter dieses Verbot. In der Hochrisiko-Liste in Anhang III werden Waffenerkennung und Schlägerei-Erkennung nicht ausdrücklich genannt. Unsere Einschätzung: Gerade die Systeme, die dem Waffenproblem am nächsten kommen, unterliegen damit vergleichsweise wenigen EU-Vorgaben zu Tests und Transparenz.

Einordnung

Die US-Erfahrungen lassen sich nicht eins zu eins übertragen. Deutsche Systeme erkennen meist Verhalten statt Gegenstände, Schusswaffen sind hier viel seltener, und am Kottbusser Tor bewaffnet sich niemand wegen eines KI-Alarms mit dem Gewehr, um Schüler auf die Knie zu zwingen. Drei Lehren gelten aber unabhängig vom Land.

Erstens: Bei seltenen Ereignissen erzeugt jedes Erkennungssystem überwiegend Fehlalarme. Das ist Mathematik, kein Konstruktionsfehler einzelner Firmen. Zweitens hängt die Sicherheit an der Kette danach: an Menschen, die prüfen, und an Abläufen, die einen aufgehobenen Alarm wirklich stoppen. Baltimore ist genau daran gescheitert. Drittens gibt es ohne veröffentlichte Zahlen keine Grundlage für eine Bewertung. In den USA kamen die belastbaren Werte von Behörden (FTC, Generalinspektor), über Informationsfreiheitsanfragen (IPVM) oder vor Gericht ans Licht, nicht von den Herstellern. In Deutschland liegen für Berlin, Bremen und Mannheim bisher überhaupt keine Fehlerquoten vor.

Unsere Einschätzung: Bevor die Bundespolizei solche Systeme an Bahnhöfen einsetzt, sollte sie vor allem drei Zahlen veröffentlichen. Wie viele Alarme es pro Tag gibt, wie viele davon echt sind und wie viele echte Vorfälle das System übersieht. Ohne diese Zahlen ist „KI erkennt Messerangriffe“ ein Versprechen, keine belegte Leistung.

Quellen

#überwachung#waffenerkennung#omnilert#evolv#ai act#bundespolizei

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.