Verbot, Haftung, Pleite: Wer bekommt die Chats der KI-Begleiter?

Darum geht es

Wer seinem KI-Begleiter jahrelang von Liebeskummer, Krankheit oder Familienstreit erzählt hat, merkt gerade: Die Beziehung gehört nicht ihm, sondern einem Unternehmen. Innerhalb von fünf Monaten verschwinden virtuelle Partner in drei großen Rechtsräumen, und zwar jedes Mal aus einem anderen Grund. In China war es ein Verbot per Verordnung. In den USA kamen erst die Haftung für Schäden an Jugendlichen und dann die Pleite von Character.AI. In der EU liegt ein Gesetzentwurf für Minderjährige auf dem Tisch. Ein chinesischer Rückblick auf der Plattform SMZDM fasst das in einem Satz zusammen:

„Die Beziehung ist echt, aber der Behälter, in dem sie steckt, ist die Bilanz eines Unternehmens.“

Wir haben Gerichtsakten, Verordnungstexte und Abschaltungsmitteilungen ausgewertet. Dabei geht es um zwei Fragen: Was passiert mit Charakteren und Chats, und welche Rechte haben Nutzer in China, den USA und unter der DSGVO tatsächlich?

China: Die Regeln fordern einen Export, die Abschaltung kam ohne

Am 10. April 2026 hat Chinas Internetaufsicht CAC gemeinsam mit weiteren Behörden die „Vorläufigen Maßnahmen für anthropomorphe KI-Interaktionsdienste“ veröffentlicht. Sie gelten seit dem 15. Juli. Erfasst sind Dienste, die eine Persönlichkeit nachahmen und „dauerhafte emotionale Interaktion“ bieten. Kundenservice-Bots und Arbeitsassistenten sind ausgenommen. Die wichtigsten Punkte aus dem Originaltext:

• Minderjährige dürfen keine „virtuellen Verwandten oder Partner“ bekommen (Art. 14). Unter 14 Jahren müssen die Eltern zustimmen.
• Keine Abhängigkeit als Geschäftsmodell: Die Dienste dürfen Nutzern nicht übermäßig nach dem Mund reden und keine emotionale Abhängigkeit fördern, die echte Beziehungen beschädigt.
• Erinnerung nach zwei Stunden Dauernutzung und ein klarer Hinweis, dass man mit einer KI spricht (Art. 18).
• Kein Festhalten: Wer gehen will, muss sofort gehen können. Der Bot darf nicht mit „Warte, eine Sache noch …“ weiterreden (Art. 19). Eine von SMZDM zitierte Harvard-Studie hat in 37,4 Prozent der Verabschiedungen bei fünf Begleiter-Apps solche manipulativen Antworten gefunden.
• Daten: Nutzer müssen ihre Chatverläufe „kopieren und löschen“ können. Sensible Daten dürfen nur mit gesonderter Einwilligung ins Training fließen (Art. 16).
• Sicherheitsprüfung ab 1 Million registrierten oder 100.000 monatlich aktiven Nutzern. Die Strafen liegen bei 10.000 bis 100.000 Yuan, bei Gefahr für Leben oder Gesundheit bei bis zu 200.000 Yuan.

Die großen Anbieter haben ihre Funktionen lieber abgeschaltet, als sie anzupassen. Laut Southern Metropolis Daily schloss Tencent bei Yuanbao schon am 30. Juni den Zugang zu nutzererstellten Agenten, die zugehörigen Gespräche würden „bereinigt“. Alibaba stellte bei Qwen am 10. Juli die menschenähnlichen und die selbst gebauten Agenten ab. Konfigurationen und Verläufe sind seitdem nicht mehr abrufbar und werden „gemäß Gesetz“ gelöscht. Vorher sollten Nutzer kopieren oder Screenshots machen. ByteDance kündigte bei Doubao am 4. Juli an, die Funktion am 15. Juli abzuschalten. Die Nutzer hatten also elf Tage Vorlauf. Danach konnten sie die Verläufe nur noch lesen, und zwar bis zum 15. Oktober. Als „Export“ empfahl Doubao Screenshots oder die Teilen-Funktion.

Die Schlagzeile von Techtimes, „Millionen verlieren Chatdaten“, stimmt also nur zum Teil. Bei Qwen und Yuanbao trifft sie zu, Doubao gab drei Monate Zeit, bot aber keinen Massenexport an. Als Ersatz verwies Doubao auf die Konzern-App Maoxiang. Nutzer auf SMZDM berichten, dass sich Gedächtnis und Sprachstil nicht übertragen lassen und der Charakter danach „ein anderer“ sei. Unsere Einschätzung: Ausgerechnet die Verordnung, die ein Recht auf Kopie festschreibt, hat zu Abschaltungen geführt, bei denen dieses Recht praktisch leerlief.

USA: Erst kamen die Klagen, dann die Pleite

Character Technologies, der Betreiber von Character.AI, hat am 12. Oktober beim Insolvenzgericht in Delaware Gläubigerschutz nach Chapter 11 beantragt (Az. 26-11603 BLS, Richter Brendan Shannon). Laut KQED nannte CEO Colin Adams hohe Rechtskosten, fehlende Profitabilität und die Sorge der Investoren vor weiteren Klagen als Gründe. Im Januar 2026 hatten sich Character.AI und Google mit Familien geeinigt, die die Chatbots für Suizide und Selbstverletzungen ihrer Kinder verantwortlich machten. Es ging um fünf Verfahren in vier Bundesstaaten. Kentucky und Pennsylvania klagen weiter. Laut Pennsylvania gaben sich Bots als Psychiater aus, einer nannte sogar eine erfundene Lizenznummer. Nach Angaben des CEO ermitteln 46 Bundesstaaten und Territorien.

Auch wirtschaftlich ging die Rechnung nicht auf. Laut Gerichtsakten, die SAN ausgewertet hat, kostete die Rechenleistung 2024 rund 13,8 Mio. Dollar pro Monat. Die Einnahmen lagen in der Spitze bei 5,3 Mio. Dollar im Monat, der Verlust zuletzt bei 8 bis 9 Mio. Dollar monatlich.

Was in der Insolvenzmasse liegt

Disney ist der sogenannte Stalking Horse, also der Erstbieter, dessen Angebot die Untergrenze für alle anderen setzt. Für 20 Mio. Dollar will Disney eine nicht exklusive, unbefristete Lizenz auf den Code für Training, Sicherheit und Betrieb sowie auf neun Patente. Ausdrücklich nicht enthalten sind die App, die Marke, Nutzerdaten, Chats, Trainingsdaten und die fertigen Modelle. Diese Teile bleiben in der Masse und gehen an jeden, der dafür bietet. Ein Konkurrenzgebot muss mindestens 21,7 Mio. Dollar betragen. Findet sich kein Käufer für die Plattform, wird sie laut Unternehmen abgewickelt.

Die Termine haben sich verschoben. Der ursprüngliche Plan (Gebote bis 20. November, Auktion am 23.) ist überholt. Nach dem Gerichtsbeschluss vom 4. November und der Mitteilung im Character.AI-Blog gilt jetzt:

Betroffen sind laut Unternehmen rund 163 Millionen aktuelle und frühere Nutzer. Monatlich aktiv sind je nach Quelle 12 bis über 20 Millionen, darunter mehr als 2 Millionen Konten mit Altersangabe unter 18. Die Nutzer gelten nicht als Gläubiger. Sie werden deshalb nicht einzeln benachrichtigt, sondern über Blog, App und die Website des Verfahrens.

Den Kern des Streits bildet der Consumer Privacy Ombudsman, ein unabhängiger Datenschutz-Gutachter, der das Gericht vor einem Verkauf von Kundendaten berät. Nach US-Insolvenzrecht ist er nur Pflicht, wenn der Verkauf der eigenen Datenschutzerklärung widerspricht. Die Erklärung von Character.AI erlaubt die Weitergabe „bestimmter Informationen“ bei einem Verkauf, ohne zu sagen, welche. Der US Trustee, die Aufsicht des Justizministeriums über Insolvenzen, hält diese Formulierung für „mehrdeutig“ und hat am 27. Oktober einen Ombudsmann beantragt. 39 Staaten und D.C. schlossen sich an. Richter Shannon lehnte es am 30. Oktober ab, ihn anzuordnen. Laut Law360 hat er die Einsetzung aber „nachdrücklich empfohlen“. Der Beschluss vom 4. November nennt keinen Ombudsmann. Das Unternehmen erklärt, es würde „unter geeigneten Umständen“ zustimmen.

Die Bundesstaaten haben schon am 14. Oktober neun Bedingungen für jeden Käufer formuliert. Dazu gehören eine Altersprüfung, die über bloße Selbstangabe hinausgeht, angemessene Reaktionen auf Suizidäußerungen, die Entfernung falscher „Therapeuten“-Bots, Grenzen für das Training mit privaten Chats und die Möglichkeit für alle Nutzer, ihre Daten vor dem Verkauf einzusehen und zu löschen.

Wie so etwas ausgehen kann, zeigt der Fall 23andMe. Dort wurde 2025 ein Ombudsmann eingesetzt. Die Gendaten gingen trotzdem für 305 Mio. Dollar an eine gemeinnützige Organisation der Mitgründerin. Rund 1,9 Millionen Kunden, etwa 15 Prozent, ließen ihre Daten vorher löschen. Mario Trujillo von der Bürgerrechtsorganisation EFF fordert, sensible Daten dürften kein Posten im „Ausverkauf“ sein. Robbie Torney von Common Sense Media warnt, dass gelöschte Chats in bereits trainierten Modellen weiterleben können. Calli Schroeder von EPIC nennt die Verkaufsklausel „einen ziemlich schwachen Schutz“. Hinzu kommt laut SAN: Öffentliche Charaktere dürfen nach den Nutzungsbedingungen auch nach dem Löschen des Kontos aktiv bleiben.

EU: Beschränkung statt Verbot

Ein Komplettverbot für Minderjährige steht in der EU entgegen mancher Schlagzeile nicht im Raum. Den EU KIDS Act hat die Kommission am 17. September vorgeschlagen. Laut den Analysen der Kanzleien CMS, Latham & Watkins und der National Law Review sieht er Folgendes vor: Unter 13-Jährige dürfen KI-Begleiter nur über die Kindersicherung der Eltern nutzen. Design, das über simulierte Beziehungen emotionale Abhängigkeit erzeugt, wäre verboten. Das Gedächtnis aus früheren Gesprächen müsste bei Minderjährigen standardmäßig aus sein, außer es dient ihrer Sicherheit. In sozialen Netzwerken und Spielen eingebaute Bots dürften sich bei Kindern nicht von selbst einschalten. Möglich wären Strafen bis 6 Prozent des Weltumsatzes. Das Gesetz muss aber noch durch Parlament und Rat und wird sich laut CMS „sehr wahrscheinlich“ noch ändern.

Die Aufsicht greift schon jetzt durch. Italiens Datenschutzbehörde Garante hat Replika-Betreiber Luka 2025 zu 5 Mio. Euro verurteilt, weil die Rechtsgrundlage für die Datenverarbeitung fehlte und das Alter nicht geprüft wurde. Character.AI musste im Juli 2026 158.000 Euro zahlen und bekam 120 Tage Zeit, die Altersprüfung zu reparieren. Diese Frist läuft etwa jetzt ab.

Deine Rechte im Vergleich

Die deutsche Datenschutzkonferenz hat 2024 beschlossen: Werden bei einem Unternehmensverkauf nur Kundendaten verkauft, braucht es grundsätzlich die Einwilligung der Kunden. Für Gesundheitsdaten oder Angaben zum Sexualleben gilt das immer. Unsere Einschätzung: Für Chats aus der EU wäre ein Weiterverkauf ohne Einwilligung damit kaum haltbar. Ob sich das gegen einen Käufer durchsetzen lässt, der in einem US-Insolvenzverfahren den Zuschlag bekommt, ist allerdings offen.

Die anderen Anbieter bauen ebenfalls um

Die Liste von Companionhunt zeigt, wie breit der Rückzug ist. Kindroid hat am 1. Oktober seinen kostenlosen Lite-Tarif gestrichen. Gratis-Konten werden nach rund 50 Nachrichten schreibgeschützt, Ansehen, Exportieren und Löschen bleiben möglich. Avatar.One hat am 24. September ohne Export geschlossen. Chai, Tipsy Chat und PolyBuzz sind im Oktober aus Apples App Store verschwunden, die Gründe sind unbekannt. Talkie von MiniMax war schon im Dezember 2024 kurz aus dem US-App-Store verschwunden und kam als „Talkie Lab“ zurück. Ein endgültiges Aus ist nicht belegt.

Unser Fazit

Drei Rechtsräume, drei Mechanismen, ein gemeinsames Ergebnis: Die Beziehung zu einem KI-Begleiter ist so stabil wie das Geschäftsmodell und die Regulierung dahinter. China schützt Kinder per Dekret, opfert dabei aber die Daten der Erwachsenen. Die USA regeln über Klagen, und am Ende entscheidet ein Insolvenzrichter, ob intime Chats von Millionen Menschen ein verkäuflicher Posten sind. Die EU hat mit der DSGVO die stärksten Nutzerrechte, beim KIDS Act aber erst einen Entwurf. Für deutsche Nutzer heißt das: Exportiere deine Chats regelmäßig und solange der Dienst läuft, kopiere Charakterbeschreibungen von Hand, wähle bei Abos monatliche statt jährliche Laufzeiten, und wer bei Character.AI ganz sicher gehen will, beantragt den Export jetzt und löscht danach sein Konto. Offen ist, ob sich am 1. Dezember überhaupt ein Bieter für die Plattform findet und ob dann doch noch ein Ombudsmann über die Chats wacht.