8.400 Prozent mehr KI-Missbrauchsmaterial? Was die Rekordzahl wirklich misst
Seit dem 16. November geht eine Zahl um die Welt: Die Meldungen über KI-bezogenes Missbrauchsmaterial an das US-Meldezentrum NCMEC sollen in zwei Jahren um 8.400 Prozent gestiegen sein. Wir haben die Zahl zerlegt. Sie ist sauberer als frühere Schlagzeilen, misst aber nicht, wie viele neue KI-Bilder entstehen. Das echte Problem lässt sich mit anderen Zahlen besser belegen.

Darum geht es
„Meldungen über KI-bezogenes Missbrauchsmaterial steigen in zwei Jahren um 8.400 Prozent.“ Die Schlagzeile kam am 16. November über den Guardian und die britische Nachrichtenagentur PA in Umlauf und wurde seither weltweit nachgedruckt. Sie stammt aus dem neuen „Into the Light Index 2026“ von Childlight, einem Kinderschutz-Institut der Universität Edinburgh. Vorgestellt wurde der Index auf einem Ministergipfel auf den Philippinen. Die Rechnung dahinter: Bei NCMEC, dem US-Meldezentrum für Hinweise auf Kindesmissbrauch, gingen 2023 rund 4.700 Meldungen mit KI-Bezug ein, 2025 waren es über 400.000.
Eigentlich wollten wir zeigen, dass diese Zahl vor allem durch Amazon aufgebläht ist. Der Konzern hatte 2025 mehr als eine Million Verdachtsmeldungen aus seinen KI-Trainingsdaten abgegeben, fast alle davon Fehlalarme. Bei der Recherche hat sich das als falsch herausgestellt: Die 400.000 sind nach allem, was die NCMEC-Daten zeigen, schon die bereinigte Zahl ohne Amazons Fehlalarme. Unsere These bleibt trotzdem, nur aus einem anderen Grund. Auch die 400.000 zeigen vor allem, wie Firmen melden und wie NCMEC einordnet. Wie viel neues KI-Material entsteht, zeigen sie kaum. Das echte Problem gibt es trotzdem, und andere Zahlen belegen es besser.
Die Amazon-Geschichte: 1,1 Millionen Meldungen, 99,6 Prozent Fehlalarme
Die Vorgeschichte erklärt, warum man bei KI-Statistiken zu Missbrauchsmaterial (Fachleute sagen CSAM, Child Sexual Abuse Material) misstrauisch sein sollte. Im ersten Halbjahr 2025 meldete NCMEC rund 485.000 Meldungen mit KI-Bezug. Medien deuteten das als Explosion KI-generierter Bilder. Im Januar 2026 deckte Bloomberg auf, dass etwa 380.000 davon von Amazon stammten. Amazon hatte Daten aus dem öffentlichen Netz, mit denen es eigene KI-Modelle trainieren wollte, per Hash-Abgleich durchsucht. Dabei wird von jedem Bild ein digitaler Fingerabdruck berechnet und mit einer Liste bekannter Missbrauchsbilder verglichen. Laut Bloomberg erklärte Amazon, man nutze „bewusst eine übermäßig breite Schwelle beim Scannen, die einen hohen Anteil an Fehlalarmen erzeugt“. Und: Keine einzige dieser Meldungen betraf KI-generiertes Material.
Fallon McNulty, die bei NCMEC die Meldestelle CyberTipline leitet, nannte das Volumen gegenüber Bloomberg „wirklich einen Ausreißer“. Mit den Meldungen habe man nichts anfangen können, weil Amazon nicht sagte, woher die Daten stammten. Die Stanford-Forscherin Riana Pfefferkorn rechnete in einem offenen Brief an NCMEC vor, dass mindestens 78 Prozent der KI-Meldungen aus dem ersten Halbjahr 2025 gar kein KI-generiertes Material enthielten.
Inzwischen hat Amazon nachgeprüft. In seinem Transparenzbericht und einem Brief an Senator Chuck Grassley nennt der Konzern für 2025 insgesamt 1.120.171 Verdachtsmeldungen. 1.098.047 davon betrafen Bilder und Videos aus dem öffentlichen Netz. Nach menschlicher Prüfung blieben 4.376 bestätigte Fälle übrig, das sind 0,4 Prozent. Die übrigen 1.093.671 Meldungen zog Amazon als Fehlalarme zurück.
Was in den 400.000 tatsächlich steckt
Die Childlight-Zahl ist sauberer als frühere Schlagzeilen. Eine Fassung der NCMEC-Datenseite nannte für 2025 noch „1,5 Millionen Meldungen mit KI-Bezug“, davon „mehr als 1,1 Millionen“ von Amazon zu Trainingsdaten. Die aktuelle Seite nennt „mehr als 400.000“. 1,5 Millionen minus 1,1 Millionen ergibt ziemlich genau diese 400.000. In der neuen Aufschlüsselung stehen nur noch gut 12.000 Trainingsdaten-Meldungen. Unsere Einschätzung: Amazons Fehlalarme sind aus den 400.000 weitgehend herausgerechnet. Ausdrücklich schreibt NCMEC das allerdings nirgends.
Ein Beleg für „400.000 KI-Missbrauchsbilder“ ist die Zahl damit aber nicht. NCMEC schlüsselt sie so auf:
| Kategorie laut NCMEC (2025) | Meldungen | Anteil (gerundet) |
|---|---|---|
| KI-Bezug vorhanden, aber unklar, wie KI genutzt wurde | über 200.000 | ca. 50 % |
| KI genutzt, um eine vorhandene Missbrauchsdatei zu bearbeiten, ohne Textanweisung | über 145.000 | ca. 36 % |
| Versuch, per Datei-Upload und Textanweisung KI-Material zu erzeugen | über 30.000 | ca. 8 % |
| Missbrauchsmaterial in Trainingsdaten gefunden | über 12.000 | ca. 3 % |
| Nutzer erzeugen oder besitzen KI-Missbrauchsmaterial | über 7.000 | ca. 2 % |
| Sonstiges, etwa Ausbeutung per Chat | über 3.000 | ca. 1 % |
Nur etwa zwei Prozent der Meldungen beschreiben also den Fall, an den die meisten bei der Schlagzeile denken: Jemand erzeugt mit KI Missbrauchsbilder. Bei der Hälfte weiß niemand, welche Rolle KI gespielt hat. Dazu kommt das Formular selbst. Es hat genau ein Häkchen „Generative AI“, laut technischer Dokumentation für Dateien, die „vermutlich KI-generiert“ sind. Pfefferkorn kritisiert, dass Anbieter das Häkchen aus ganz unterschiedlichen Gründen setzen: für Trainingsdaten-Funde, für Uploads in Chatbots oder für tatsächlich erzeugte Bilder. Laut ihrem Update vom 30. Januar steht NCMEC erst am Anfang einer mehrjährigen Modernisierung der Meldeschnittstelle.
Auch einzelne große Melder verschieben die Kurve. OpenAI meldete laut seinen Transparenzberichten im ersten Halbjahr 2025 genau 75.027 Fälle an NCMEC, im ersten Halbjahr 2024 waren es 947. Für das zweite Halbjahr 2025 nennt OpenAI 107.817 Meldungen. Zusammen sind das knapp 183.000, also fast die Hälfte der 400.000. OpenAI meldet nach eigenen Angaben jedes Auftauchen von Missbrauchsmaterial, auch Uploads und bloße Anfragen. Ein Teil des Anstiegs geht laut Berichten darauf zurück, dass OpenAI Ende 2024 mehr Prüfpersonal einsetzte und mehr Funktionen zum Hochladen von Bildern anbot. Ob alle OpenAI-Meldungen in der KI-Kategorie landen, ist öffentlich nicht aufgeschlüsselt.
Schließlich der Ausgangswert: NCMEC hat KI-bezogene Meldungen überhaupt erst ab Januar 2023 erfasst. Prozentzahlen auf so einer kleinen Basis aus dem ersten Erfassungsjahr werden schnell riesig. Childlight selbst schränkt ein: Datendirektorin Debi Fry sagte, bessere Erkennung und Meldung könnten einen Teil des Anstiegs erklären. In den meisten Nachdrucken fehlt dieser Satz.
Die belastbareren Zahlen: Was Analysten wirklich prüfen
Wer wissen will, wie viel KI-Missbrauchsmaterial im Umlauf ist, sollte auf Zahlen schauen, hinter denen eine menschliche Prüfung des Materials steht:
- NCMEC selbst: Die Mitarbeiter des Zentrums haben von Januar 2023 bis Dezember 2025 mehr als 158.000 Bilder und Videos aus Meldungen als KI-generiert eingestuft. Die meldenden Firmen hatten im selben Zeitraum nur gut 11.000 Dateien so markiert. Außerdem wurden laut NCMEC seit 2023 mehr als 275 Opfer von KI-Missbrauchsmaterial identifiziert. Das sind reale Kinder, deren Bilder verfremdet wurden.
- Internet Watch Foundation (IWF): Die britische Organisation lässt Analysten jedes Bild nach britischem Recht bewerten. Im ersten Halbjahr 2026 waren es 6,310 illegale KI-Bilder, 40 Prozent mehr als im ganzen Jahr 2025 (4.512). 98 Prozent zeigen Mädchen, 79 Prozent Kinder zwischen 7 und 13 Jahren, 190 Bilder Kleinkinder unter zwei. 88 Prozent fallen in Kategorie C, die mildeste Stufe, etwa sexualisiertes Posieren und Nacktheit. Noch drastischer ist die Entwicklung bei Videos: 2024 fand die IWF 13 KI-Videos, 2025 waren es 3.443. 65 Prozent davon gehören zur schwersten Kategorie A. Auch die IWF räumt ein, dass ihre Zahlen davon abhängen, wo Analysten aktiv suchen und was gemeldet wird.
Diese Zahlen sind kleiner als die Schlagzeile, aber sie zählen geprüftes Material. Und auch sie steigen deutlich.
Das echte Problem: Nudify-Apps und Grok
Die Gerichtsakten zeigen, wie KI-Missbrauch praktisch funktioniert. Gegen xAI, die KI-Firma von Elon Musk, laufen vor dem Bundesgericht für Nordkalifornien mehrere Klagen. Eine Sammelklage wurde am 16. März 2026 eingereicht und im Juli um weitere Klägerinnen sowie Stability AI als Beklagte erweitert. In einem Fall soll ein Stiefvater aus einem Foto seiner damals elfjährigen Stieftochter mit Grok mehr als 7.000 Bilder erzeugt haben. Am 26. August folgte eine zweite Sammelklage. Sie wirft xAI vor, Grok mit bekanntem Missbrauchsmaterial trainiert zu haben. Das Center for Countering Digital Hate schätzt, dass Grok zwischen dem 29. Dezember 2025 und dem 8. Januar 2026 mehr als drei Millionen sexualisierte Bilder erzeugte, über 23.000 davon zeigten wahrscheinlich Kinder. Geurteilt wurde bislang in keinem der Verfahren.
Dazu kommen „Nudify“-Apps, die Menschen auf Fotos digital ausziehen. Die Stadt San Francisco klagt seit August 2024 gegen Betreiber solcher Seiten. Bis Februar 2026 gab es laut dem Fachmedium Indicator zwei Vergleiche, und 11 Seiten wurden abgeschaltet. Ein Betreiber zahlte 100.000 US-Dollar Strafe. Im Juli 2026 forderte die Stadt Apple und Google auf, 13 solcher Apps aus ihren Stores zu entfernen. Meta verklagte 2025 in Hongkong den Entwickler der App CrushAI, weil dieser trotz Verbots massenhaft Werbung auf Facebook und Instagram geschaltet hatte.
Und in Deutschland?
Eine vergleichbare deutsche Zahl haben wir nicht gefunden. Das BKA-Bundeslagebild 2025, veröffentlicht im Juli 2026, zählt 41.677 Fälle von Kinderpornografie, 2,7 Prozent weniger als im Vorjahr. Es warnt allgemein, dass sich mit KI „reale Inhalte ohne fundiertes Fachwissen verändern oder neue Inhalte künstlich generieren“ lassen. Eine eigene KI-Kennzahl nennt es nicht. NCMEC hat dem BKA 2025 über 100.000 strafrechtlich relevante Hinweise übermittelt, wie viele davon KI betreffen, bleibt offen. Auch jugendschutz.net weist in seinem Jahresbericht 2025 mit 15.099 Verstoßfällen keinen KI-Anteil aus. Kerstin Claus, die Missbrauchsbeauftragte der Bundesregierung, sagte zur BKA-Vorstellung in anderem Zusammenhang:
„Was nicht strafbar ist, wird nicht gezählt, und was nicht gezählt wird, wird nicht bekämpft.“
Einordnung
Die 8.400 Prozent sind keine Falschmeldung, aber eine missverständliche Zahl. Sie zählt Meldungen, nicht Bilder, Taten oder Opfer. Sie hängt davon ab, wie viele Firmen melden, wie gründlich sie scannen und wie sie ein einziges, mehrdeutiges Häkchen setzen. Die Basis von 2023 stammt aus dem ersten Jahr, in dem NCMEC KI-Fälle überhaupt erfasste. Amazons Fehlalarme sind in der Childlight-Zahl nach unserer Rechnung zwar nicht mehr enthalten. Aber nur etwa 7.000 der 400.000 Meldungen beschreiben das Erzeugen oder den Besitz von KI-Missbrauchsmaterial.
Unsere Einschätzung: Für Gesetzesbegründungen taugen andere Zahlen besser. Das sind die von Analysten geprüften Funde der IWF (6.310 Bilder in sechs Monaten, Videos von 13 auf 3.443), NCMECs eigene Einstufung von über 158.000 KI-Dateien und über 275 identifizierte Opfer. Dazu kommen die konkreten Fälle aus den Klagen gegen xAI und die Nudify-Betreiber. Sie zeigen ein wachsendes, reales Problem, das vor allem Mädchen trifft. Dafür braucht es keine aufgeblasene Prozentzahl. Wer Politik darauf stützt, sollte genaue Meldeformulare fordern, die Trainingsdaten-Funde, Uploads und erzeugtes Material getrennt erfassen. In Deutschland bräuchte es überhaupt erst eine eigene Zählung.
Quellen
- Irish News (PA): Reports of AI-generated child sex abuse images soar 8,400% irishnews.com
- UA.News: Zusammenfassung des Guardian-Berichts ua.news
- Startup Fortune: AI child abuse reports have jumped 8,400% startupfortune.com
- explainx.ai: Childlight 8,400% AI CSAM Reports explainx.ai
- Childlight: Into the Light childlight.org
- NCMEC: Generative AI (Aufschlüsselung 2025) ncmec.org
- NCMEC: CyberTipline Data (aktuelle Fassung) missingkids.org
- NCMEC: CyberTipline Data (Fassung mit 1,5 Mio.) missingkids.org
- Amazon: CSAM Transparency Report 2025 aboutamazon.com
- Stanford CIS: Letter to NCMEC about AI CSAM report statistics (Riana Pfefferkorn) cyberlaw.stanford.edu
- Engadget: Amazon discovered a 'high volume' of CSAM in its AI training data engadget.com
- The Star (Bloomberg): Amazon found 'high volume' of child sex abuse material in AI training data thestar.com.my
- Let's Data Science: OpenAI Sends 75,027 CyberTipline Reports To NCMEC letsdatascience.com
- OpenAI: Trust & transparency openai.com
- IWF: More AI-generated child sexual abuse images found in the first six months of 2026 than all of 2025 iwf.org.uk
- IWF Annual Data & Insights Report 2025: AI-generated CSAM iwf.org.uk
- CyberScoop: Deepfake CSAM lawsuit against xAI, Grok expands cyberscoop.com
- AI Lawsuit Tracker: xAI ailawsuittracker.com
- ITHome (Bloomberg-Bericht zu Grok-Klagen) ithome.com
- Indicator: San Francisco's city attorney sued the operators of 22 AI nudifiers indicator.media
- TechCrunch: Meta sues AI nudify app Crush AI techcrunch.com
- BKA: Pressemitteilung Bundeslagebild Sexualdelikte 2025 bka.de
- jugendschutz.net: Vorstellung des Jahresberichts 2025 jugendschutz.net
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.