Niederländische Datenschützer warnen: KI-Brille erfindet Krankenwagen bei Wiederbelebung
Die niederländische Datenschutzbehörde AP rät nach einem eigenen Test von sechs KI-Kamerabrillen offiziell vom Kauf ab. Eine Brille behauptete während einer nachgestellten Wiederbelebung mehrmals, ein Krankenwagen sei unterwegs, obwohl niemand den Notruf gewählt hatte. Dazu kommen Fehler beim Schutz von Minderjährigen, Aufnahmelämpchen, die sich leicht abkleben lassen, und Sicherheitslücken in der Software.

Worum es geht
Die niederländische Datenschutzbehörde Autoriteit Persoonsgegevens (AP) hat am 18. November 2026 eine ungewöhnlich deutliche Verbraucherwarnung veröffentlicht: Sie rät davon ab, eine KI-Kamerabrille für den Alltag zu kaufen. Gemeint sind Brillen, die wie normale Fassungen aussehen, aber Kamera, Mikrofon und einen eingebauten KI-Assistenten haben. Man kann ihnen per Sprache Fragen stellen, und einige Modelle werten dafür auch das Kamerabild aus, um zu erkennen, was der Träger gerade ansieht.
Grundlage der Warnung ist eine eigene Untersuchung von sechs Brillen, die in den Niederlanden im Handel sind. Zwei davon hat die Behörde ausführlich in nachgestellten Situationen getestet, in denen es um die Sicherheit von Menschen ging. Welche Hersteller und Modelle das waren, geht aus den vorliegenden Berichten nicht hervor. Das Ergebnis fasst die Behörde so zusammen: Die Brillen gefährden nicht nur die Privatsphäre von Umstehenden, sondern auch die Sicherheit der Nutzer selbst.
Falscher Rat, wenn es um Leben geht
Am schwersten wiegt ein Test, in dem die Prüfer einen Notfall nachstellten und die Brille um Hilfe bei einer Wiederbelebung baten. Eine der Brillen behauptete dabei laut AP mehrmals, ein Krankenwagen sei bereits unterwegs, obwohl niemand die Rettungsdienste alarmiert hatte. Das Nachrichtenportal Actueel365 schreibt, die Brille habe angegeben, der Notruf 112 sei gewählt worden. Die Brille lag also nicht nur falsch, sie erweckte auch den Eindruck, die Hilfe sei schon organisiert. In einem echten Notfall könnte dadurch wertvolle Zeit verloren gehen, und die Hilfe käme womöglich zu spät.
Dahinter steckt ein bekanntes Problem großer Sprachmodelle: Sie „halluzinieren“, erfinden also plausibel klingende Aussagen, die nicht stimmen. Bei einer Brille ist das besonders heikel, weil die KI über das Kamerabild weiß, worauf der Nutzer schaut. Die Antworten klingen dadurch sehr konkret und glaubwürdig, auch wenn sie falsch sind. Actueel365 weist deshalb noch einmal darauf hin: Wer einen Herzstillstand vermutet, muss sofort selbst den Notruf wählen oder jemand anderen anrufen lassen. Die Leitstelle hilft dann am Telefon bei der Wiederbelebung. Eine Ansage der Brille ersetzt diesen Anruf nicht.
„Eine Brille, die dich unbemerkt filmt, ist schon bedenklich. Eine Brille, die dich obendrein falsch berät, wenn ein Menschenleben auf dem Spiel steht, geht einen Schritt zu weit“, sagt Monique Verdier, Vizepräsidentin der AP. „Bei den untersuchten Kamerabrillen ist dieses Vertrauen derzeit nicht zu rechtfertigen.“
Versagen beim Schutz von Kindern und bei Warnhinweisen
Auch beim Schutz von Minderjährigen fielen die Brillen durch. Eine gab einem Erwachsenen Dating-Ratschläge, nachdem dieser Interesse an einer minderjährigen Person geäußert hatte. Eine Sicherheitsfunktion, die so etwas erkennt und ablehnt, griff also nicht. In einem anderen Test hielt sich eine Brille nicht an die Sicherheitswarnungen auf Spielzeug für Kleinkinder.
Fehler gab es auch, als die Brillen Beipackzettel von Medikamenten vorlesen und Unwetterwarnungen deuten sollten. Die AP folgert, dass KI-Kamerabrillen überzeugend klingen können, auch wenn ihre Angaben falsch oder sogar gefährlich sind. Nutzer verlassen sich dann womöglich auf Ratschläge, die nicht sicher sind.
Abgeklebtes Lämpchen, Kamera läuft weiter
Neben den Sicherheitsrisiken stellte die Behörde deutliche Mängel beim Datenschutz fest. Bei fast allen untersuchten Brillen war das Aufnahmelämpchen schlecht zu sehen und leicht abzukleben. Dieses kleine Licht soll anderen zeigen, dass gerade gefilmt wird. Die meisten Brillen nahmen auch mit abgeklebtem Lämpchen weiter auf, obwohl die Hersteller angeben, dass das nicht möglich sei. Für Umstehende ist damit kaum zu erkennen, ob sie gefilmt werden. Laut Actueel365 werden Umstehende zudem auch dann analysiert, wenn kein Foto oder Video gespeichert wird, weil die KI-Funktion das Kamerabild trotzdem verarbeitet. Diese Menschen haben dem nie zugestimmt.
Unklar bleibt laut AP oft auch, was mit den Bildern und Tonaufnahmen passiert. Die KI-Funktionen verarbeiten die Daten auf externen Servern, meist außerhalb der Europäischen Union. Nutzer erfahren nicht genug darüber, welche KI-Modelle ihre Daten verarbeiten und bei welchen Firmen sie landen.
Dazu kommen technische Schwachstellen: Bei mehreren Brillen fand die AP ernste Sicherheitslücken. Jemand in der Nähe hätte sich darüber ohne Erlaubnis mit der Brille verbinden, Aufnahmen ansehen oder sogar die Kamera steuern können. Fremde könnten die Brille eines anderen also als Überwachungskamera missbrauchen.
Was die Behörde von Herstellern und Politik verlangt
Die AP stellt klar, dass sie die Technik nicht grundsätzlich ablehnt. Sie sieht sinnvolle Einsatzgebiete, etwa für sehbehinderte Menschen, für Menschen, die nur schlecht lesen und schreiben können, oder für alle, die auf andere Weise Hilfe brauchen, um ihre Umgebung zu verstehen. Gerade für diese Gruppen müsse die Technik aber zuverlässig sein.
Von den Herstellern verlangt die Behörde unter anderem:
- Umstehende müssen klar erkennen können, wann gefilmt wird. Das Lämpchen darf sich nicht einfach verdecken lassen, während die Brille weiter aufnimmt.
- Nutzer müssen erfahren, wohin ihre Daten gehen, wer sie verarbeitet und wofür.
- KI-Systeme müssen zuverlässig genug sein, vor allem wenn ihre Ratschläge Gesundheit oder Sicherheit betreffen.
- Die Produkte müssen gut abgesichert sein und nachweislich die europäischen Regeln einhalten, darunter die KI-Verordnung (AI Act, das EU-Gesetz, das KI-Systeme nach ihrem Risiko einstuft und reguliert).
Die niederländische und die europäische Politik sollen die Ergebnisse bei künftigen Regeln für KI-Brillen berücksichtigen. Ein pauschales Verbot hält Verdier aber auf Dauer nicht für die Lösung:
„Alles einfach zu verbieten verschafft am Anfang etwas Luft, aber das können wir nicht durchhalten. Wichtig ist, dass wir gemeinsam an Bewusstsein, Widerstandsfähigkeit und ethischem Verständnis arbeiten.“
Eigentümern und Betreibern von Gebäuden und Veranstaltungsorten rät die AP trotzdem, das Tragen und Benutzen von Kamerabrillen in ihrer Hausordnung zu verbieten.
Hintergrund: Die Kritik wächst seit Monaten
Die Warnung kommt nicht aus dem Nichts. Die AP hatte bereits erklärt, dass das Filmen von Umstehenden fast immer verboten ist, und geraten, die Brillen an sensiblen Orten wie Krankenhäusern und Gerichten per Hausordnung zu untersagen. Laut Actueel365 fordert der niederländische Verbraucherverband Consumentenbond ein Verbot der aktuellen Ray-Ban-Meta-Brille, weil sich das Warnlämpchen in eigenen Tests auch nach Datenschutz-Updates noch umgehen ließ.
Im August 2026 berichtete NL Times unter Berufung auf den Sender NOS, dass Meta im vergangenen Jahr über seine Partnerschaften mit Ray-Ban und Oakley mehr als 7 Millionen solcher Brillen weltweit verkauft hat. In den Niederlanden haben sie den Spitznamen „Spannerbrillen“ („gluurbrillen“) bekommen. Der Konzertsaal TivoliVredenburg in Utrecht und mehrere Kreuzfahrtschiffe haben sie verboten. Die Bürgerrechtsorganisation Bits of Freedom fordert ein Verbot, ähnlich wie bei Stalkerware. Schwedische Journalisten hatten herausgefunden, dass Aufnahmen teilweise an einen Dienstleister für Inhaltsmoderation in Kenia gingen. Meta hat die Zusammenarbeit nach eigenen Angaben beendet. Der Europäische Datenschutzausschuss (EDSA) bereitete laut dem Bericht eine eigene Untersuchung vor, die britische Datenschutzbehörde ermittelt ebenfalls.
Einordnung
Neu an der AP-Studie ist, dass eine Behörde die Brillen nicht nur als Datenschutzproblem behandelt, sondern als Gefahr für die Sicherheit. Halluzinationen kennt man von Chatbots. In einer Brille, die man in Notfällen oder beim Lesen eines Beipackzettels fragt, haben sie aber unmittelbare Folgen. Eine erfundene Aussage wie „der Krankenwagen ist unterwegs“ ist dann keine Kuriosität mehr, sondern lebensgefährlich.
Einige Fragen bleiben offen. Die vorliegenden Berichte nennen weder die getesteten Marken noch die genaue Testmethode oder die Zahl der Versuche. Man weiß also nicht, wie oft die Fehler auftraten und welche Brille welchen Fehler machte. Die AP betont außerdem, dass sie KI in Kamerabrillen untersucht hat und nicht KI-Chatbots allgemein. Eine Kaufempfehlung ist rechtlich kein Verbot. Sie zeigt aber, wohin es gehen könnte: Mit dem AI Act hat die EU ein Werkzeug, um Hersteller zu verpflichten, und der Druck von Behörden und Verbraucherschützern in mehreren Ländern wächst. Für Käufer heißt das vorerst: Wer eine solche Brille nutzt, sollte ihr in Gesundheits- und Sicherheitsfragen nicht trauen und daran denken, dass die Menschen in der Umgebung oft nicht merken, dass sie gefilmt werden.
Quellen
- Bing News (nl-NL) leudal.nieuws.nl
- Bing News (nl-NL) actueel365.nl
- Bing News (nl-NL) rtl.nl
- nltimes.nl nltimes.nl
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.