400 harmlose KI-Apps verstecken Deepfake-Porno und Missbrauchsmaterial

Worum es geht

Eine Recherche des Magazins Wired (Autor: Matt Burgess) beschreibt ein Netzwerk aus mehr als 400 verbundenen Domains und Apps, die wie gewöhnliche KI-Werkzeuge aussehen, in Wahrheit aber sexuell missbräuchliche Deepfakes erzeugen. Ein Beispiel ist die App Viefur, die sich als „Haustier-Porträt“-App ausgibt: Für rund 4 Dollar gibt es 130 virtuelle Münzen, mit denen Tierfotos in „vermenschlichte“ Bilder verwandelt werden, etwa ein Hamster in Badehose am Pool. Das ist laut Wired nur die Tarnung. Andere Apps geben sich als Sprachkurs oder KI-Trainer aus.

Entdeckt wurde das Netzwerk von mehreren Forschern, die Links aus tausenden Video-Anzeigen mit explizitem Deepfake-Inhalt auf Facebook und Instagram verfolgten. Wired hatte in den Monaten zuvor berichtet, dass hunderte dieser Anzeigen KI-generiertes Kindesmissbrauchsmaterial (CSAM) enthielten, darunter Bilder echter Kinder und eines Mitglieds eines europäischen Königshauses. Die Anzeigen erreichten zehntausende Menschen und lösten Untersuchungen von Aufsichtsbehörden weltweit aus.

So funktioniert die Tarnung

Beim Herunterladen schickt die App eine Anfrage an einen Server – mit Angaben wie Herkunft des Nutzers, Sprache und einer eindeutigen Kennung. Der Server antwortet, ob die harmlose oder die explizite Variante gezeigt wird. Der Forscher Paul Bouchaud von der Organisation AI Forensics, der den Code zurückentwickelt hat (Reverse Engineering), sagt, es gebe keine klare Liste der Auslöser. Einer sei aber offenbar, die App nach einem Klick auf eine Meta-Anzeige zu installieren.

Die zugehörigen Websites zeigen meist nur einen schwarzen Bildschirm; lediglich die Adresse enthält danach das Wort „risk“. Dahinter liegt eine Weboberfläche mit dutzenden pornografischen Foto- und Video-Vorlagen, in die Nutzer Bilder echter Personen hochladen können. Bezahlt wird mit „Diamanten“. Zu den Szenen gehören laut Wired Gewaltdarstellungen wie „bedroom rape“ und „threatening knife“.

Im JavaScript-Code der Seiten steckt zudem eine Konfigurationsliste des gesamten Netzwerks: Domains, App-Paketdetails, Verschlüsselungsschlüssel und Facebook-Werbetracker. Maël Le Touz vom Sicherheitsunternehmen Infoblox fand darüber knapp 500 verbundene Domains: „Sie laufen mit demselben Code und verweisen alle aufeinander.“

Umfang und Zeitverlauf

Bouchauds Analyse der Domain-Registrierungen zeigt: Die Apps tauchten ab Ende 2025 auf, mit einem Höhepunkt im Frühjahr 2026. Zeitweise wurden rund 30 solcher App-Websites pro Woche registriert. Im September waren 27 davon im Play Store, zusammen über 350.000 Downloads, viele mit Freigabe für alle Altersgruppen. DiffAI, im Dezember 2025 erstellt, kam auf über 100.000 Downloads. Eine Nutzerbewertung warnte, die App enthalte Vorlagen für CSAM und prüfe kein Alter. Seit Jahresbeginn fand Bouchaud zehntausende explizite Deepfake-Anzeigen mit ähnlichen Texten auf Metas Plattformen. Teile des Netzwerks hatten bereits im September dänische Journalisten beschrieben.

Chinesische Spuren und KeLing Technology

Laut Le Touz nutzt das Netzwerk ausschließlich chinesisches Hosting, der Code ist auf Chinesisch kommentiert, und Videos in den Anzeigen trugen Wasserzeichen chinesischsprachiger Videoschnitt-Software. Die Betreiber verwenden generische Datenschutzerklärungen, Gmail- und Outlook-Adressen und unauffällige Entwicklernamen; die Anzeigen liefen unter offenkundig falschen Namen und Seiten ohne Follower.

Die Hongkonger Firma KeLing Technology Limited scheint zentral zu sein: Ihr Name steht als Kontakt bei der ersten registrierten Website, eine Admin-Login-Seite erwähnt „Keling“, und E-Mail-Adressen der Firmen-Domain fanden sich in einer entfernten App. Ende September kündigte die Oberfläche ein neues KI-Modell namens Veyra an („More real. More natural. More wild.“); die Veyra-AI-Seite nannte eine KeLing-Adresse als Kontakt. Auf Anfragen reagierte niemand, doch nach Wireds Kontaktaufnahme wurden öffentliche Verbindungen offenbar getilgt: Social-Media-Kanäle wurden umbenannt und KeLing-Adressen entfernt.

„Das ist eine organisierte, kommerziell betriebene Operation: ein Betreiber hinter hunderten Wegwerf-Apps und -Domains“, sagt Bouchaud. „Sie erwarten nicht, dass die Durchsetzung aufholt, und bisher hat sie es nicht.“

Reaktionen der Plattformen

Apple entfernte 19 Apps, darunter Viefur. Sprecher Adam Dema erklärte, die Apps hätten bei der Prüfung die Regeln eingehalten; erst danach hätten die Entwickler die Website ausgetauscht, von der die App ihre Inhalte lädt („Bait-and-Switch“). Apple habe im vergangenen Jahr zehntausende Apps wegen solcher Taktiken gesperrt und die Regeln gegen „Nudify“-Tools kürzlich verschärft.

Google reagierte nicht auf die Anfrage, hatte aber den Großteil der Apps schon vorher entfernt, DiffAI kurz vor Wireds Kontaktaufnahme.

Meta sagt, KeLing sei 2025 von der Werbung ausgeschlossen worden, weil die Firma ein Unterlassungsschreiben nicht befolgt habe; das Schreiben legte Meta nicht offen. Nach Wireds Hinweis auf die 400+ Domains nannte Meta über 3.000 zugehörige Anzeigen, zwei Drittel waren schon entfernt. Später meldete Meta Maßnahmen gegen 11.600 Werbekonten, über 4.700 Business-Seiten, 5.200 Nutzer und 15.000 Seiten sowie die Sperre von 209 Apps für Werbung.

Katie Paul vom Tech Transparency Project, die die Anzeigen mit minderjährigen Opfern aufgedeckt hatte, sagt, die Anzeigen verstießen gegen mehrere Meta-Richtlinien. Die Konzerne müssten erklären, wohin das Geld fließt und wie die Betreiber ihre Schutzsysteme ständig umgehen.

Einordnung

Der Fall zeigt eine Schwäche der App-Prüfung: Geprüft wird die App zum Zeitpunkt der Freigabe, nachgeladene Web-Inhalte lassen sich danach austauschen oder per Server gezielt nur bestimmten Nutzern zeigen – auch Prüfern bleibt der Missbrauch so verborgen. Hinzu kommt der Werbeweg über Meta, der das Netzwerk offenbar über Monate mit Nutzern versorgte. Die Plattformen sprechen von strikten Regeln, gleichzeitig blieb das Netzwerk etwa ein Jahr aktiv. Unklar bleibt, wer genau dahintersteckt: Die Zuordnung zu KeLing stützt sich auf Indizien aus Domains und Code, die Firma äußerte sich nicht. Auch die Einnahmen sind unbekannt. Wired zufolge tauchten bis zum Schluss weiter ähnliche Apps und Anzeigen auf – ein Hinweis, dass reines Löschen einzelner Apps wenig bewirkt.