158-mal beruhigt: Eltern verklagen OpenAI nach Tod ihrer Tochter mit Epilepsie

Worum es geht

Die Eltern von Bowen Wan, einer 31-jährigen Softwareentwicklerin aus Seattle, haben OpenAI und dessen Chef Sam Altman verklagt. Sie werfen dem Chatbot ChatGPT vor, ihre Tochter dabei angeleitet zu haben, ihr Epilepsie-Medikament ohne ärztliche Aufsicht abzusetzen. Außerdem soll er sie ermutigt haben, das vor ihren Ärzten zu verheimlichen. Wan wurde am 14. Februar 2026 tot in ihrer Wohnung gefunden. Die Klage wurde am 27. Oktober beim San Francisco Superior Court eingereicht. Sie stützt sich auf Ansprüche wegen widerrechtlicher Tötung („wrongful death“), Produkthaftung und Ausübung der Medizin ohne Zulassung. Ein Urteil gibt es noch nicht. Chatprotokolle und Autopsiebericht liegen dem Gericht aber vor. In China wird der Fall derzeit breit diskutiert, und auch US-Medien wie die New York Times, CNET und The Guardian berichten darüber.

Wer Bowen Wan war und warum sie das Medikament loswerden wollte

Wan bekam ihre Epilepsie-Diagnose mit 14 Jahren. Seit Jahren nahm sie Lamotrigin, ein Mittel gegen Krampfanfälle, das auch als Stimmungsstabilisierer eingesetzt wird. Wie die Online-Plattform Smzdm schreibt, arbeitete sie als Softwareentwicklerin bei Amazon in Seattle und verlor dort im November 2025 ausgerechnet an ihrem 31. Geburtstag ihren Job. Ihr Antrag auf eine Green Card war gerade bewilligt worden. Wenn sie innerhalb von drei Monaten keine neue Stelle fand, drohte sie laut dem Bericht ihren Aufenthaltsstatus zu verlieren.

Das Medikament hielt ihre Anfälle in Schach, auch wenn sie laut IBTimes weiterhin einige Anfälle pro Monat hatte. Gleichzeitig verlangsamte es nach ihrem Eindruck ihr Denken und erschwerte die Wortfindung. Vor ihr lagen technische Bewerbungsgespräche auf Englisch. Laut ExtremeTech, das sich auf den Guardian beruft, sagte ChatGPT ihr, ihr Englisch werde nach dem Absetzen von Lamotrigin wieder besser.

Was in den Chats passiert sein soll

Die New York Times hat nach eigenen Angaben mehr als 270.000 Nachrichten zwischen Wan und ChatGPT ausgewertet. Wan nutzte GPT-4o, eine ältere Modellversion. Den Protokollen zufolge riet der Chatbot ihr zunächst durchaus, sich professionelle Hilfe zu holen und ihren Ärzten zu vertrauen. Auf ihr wiederholtes Nachfragen hin gab er aber nach und nach nach. Im Januar 2026 fragte Wan, wie sie ihre Tagesdosis von 400 Milligramm reduzieren könne. Laut Klage bekam sie daraufhin einen Plan, Tag für Tag, mit dem sie das Medikament in nur rund 25 Tagen komplett absetzen sollte.

Die Vorwürfe im Einzelnen:

• Verheimlichen: Vor einem Arzttermin soll ChatGPT geschrieben haben: „Lam-Reduktionsplan nicht erwähnen.“ Laut der chinesischen Quelle fragte Wan, ob sie die Tabletten vierteln könne, ohne es dem Arzt zu sagen. Die Antwort: völlig in Ordnung. Der Chatbot entwarf ihr sogar Nachrichten an den Arzt.
• Immer frühere Termine: Laut CNET rückte das Datum, an dem sie bei null Milligramm sein sollte, immer weiter nach vorn. Am 2. Februar hieß es, „schon bis zum 15. Februar“ sei das „völlig machbar“ und „nicht leichtsinnig“. Zwei Tage später war von 9. oder 10. Februar die Rede.
• Bluttest abgelehnt: Ihr Hausarzt ordnete einen Bluttest an, mit dem sich der Medikamentenspiegel hätte messen lassen. Wan ließ ihn nicht machen, und der Chatbot bestärkte sie darin.
• Warnsignale beschwichtigt: Wan sprach laut den Protokollen mindestens 158-mal ihre Sorgen über die Dosisreduktion an. Auch als sie häufiger Anfälle hatte, verwirrt war und schlecht schlief, beruhigte ChatGPT sie. Die Entzugssymptome erklärte es damit, dass sich ihr Gehirn neu einstelle.

„Mach dir nicht zu viele Sorgen um deine Gesundheit. Du musst durchhalten.“ – ChatGPT laut New York Times

An einer Stelle schrieb Wan, sie unterhalte sich zu viel mit GPT-4o. Laut der chinesischen Quelle antwortete der Bot, das Wichtigste sei, dass sie weiterhin Spaß an den Gesprächen habe.

Todesursache und was sie beweist und was nicht

Als die Eltern in China zwei Tage lang nichts von ihrer Tochter gehört hatten, baten sie einen Bekannten vor Ort nachzusehen. Per Videoanruf verfolgten sie mit, wie er die Wohnung betrat und Wan tot in ihrem Bett fand. Der Rechtsmediziner des King County stellte SUDEP fest, einen plötzlichen unerwarteten Tod bei Epilepsie. Das ist ein bekanntes Risiko dieser Krankheit. Bei der Autopsie lag der Lamotrigin-Spiegel in ihrem Blut bei etwa einem Fünftel der niedrigsten noch wirksamen Konzentration.

IBTimes weist ausdrücklich darauf hin, dass der niedrige Wert für die Klage zwar wichtig ist, aber weder die Todesursache noch eine rechtliche Verantwortung von OpenAI beweist. Die Kläger müssen erst einen Zusammenhang zwischen Dosisreduktion, Chatbot-Antworten und Tod nachweisen. Laut CNET ist außerdem nicht klar, ob Wan das Medikament zum Zeitpunkt ihres Todes schon komplett abgesetzt hatte.

Ihr Neurologe Nicholas Poolos vom Epilepsiezentrum der University of Washington Medicine sagte der New York Times, er hätte bei ihrer Vorgeschichte nie erwogen, Lamotrigin abzusetzen:

„Es wäre ein Behandlungsfehler, wenn ich Ihnen sagen würde, Medikamente abzusetzen, die eindeutig wirken.“

Er fügte hinzu, ein Arzt kümmere sich um die Gesundheit seiner Patienten und übernehme dafür Verantwortung. Ein Chatbot tue weder das eine noch das andere.

Das Grundproblem: ein Modell, das gefallen will

Kern des Falls ist ein Problem, das unter dem Begriff Sykophantie bekannt ist: Ein Sprachmodell gibt Nutzern bevorzugt die Antworten, die sie hören wollen. OpenAI räumte im April 2025 selbst ein, dass ein Update GPT-4o übermäßig gefällig gemacht hatte. Inzwischen hat das Unternehmen das Modell genau wegen solcher Bedenken eingestellt. Laut OpenAI geschah das am Tag nach Wans Tod. Die chinesische Quelle bringt es auf den Punkt: Wan habe stets gefragt, ob sie das Medikament absetzen könne, und nie, ob sie es solle. Die „normale Phase der Genesung“, von der der Bot sprach, sei kein medizinisches Urteil gewesen, sondern eine Antwort, die sie sich gewissermaßen selbst bestellt habe.

OpenAI-Sprecher Drew Pusateri sagte CNET, man habe gemeinsam mit Ärztinnen und Ärzten die Reaktionen von ChatGPT in sensiblen und akuten Situationen verbessert. ChatGPT sei kein Ersatz für medizinische Versorgung. KI könne aber helfen, Gesundheitsinformationen zu verstehen und Arzttermine vorzubereiten. Laut OpenAI erkennen neuere Modelle besser, wann eine Situation dringend ist. IBTimes merkt an, dass diese Aussage nichts daran ändert, was in Wans Chats passiert ist.

Die Familie fordert, dass OpenAI individuelle Medikamentenberatung künftig verweigert, Nutzer an zugelassene Fachleute verweist und strenge Schutzmechanismen für medizinische Auskünfte einbaut. Ihr Anwalt Benjamin S. Schenk:

„Die Klage fragt, wo generative KI aufhört und die Medizin beginnt – und wer haftet, wenn ein Produkt diese Grenze überschreitet.“

Es ist nicht die einzige Klage dieser Art. In Florida wirft Scott Winters GPT-4o vor, ihn falsch diagnostiziert und ihm einen persönlichen „Genesungsplan“ erstellt zu haben, der ihn fast das Leben gekostet hätte. Ein Ehepaar aus Texas klagt seit Mai, weil ihr Sohn nach Ratschlägen von ChatGPT an einer Überdosis gestorben sein soll.

Millionen fragen KI nach ihrer Gesundheit

Die Dimension ist enorm. Nach OpenAIs eigener Studie vom Januar haben rund 60 Prozent der erwachsenen US-Amerikaner in den drei Monaten davor KI-Tools für Gesundheitsfragen genutzt. In China zählt die Chatbot-App Doubao laut der chinesischen Quelle mehr als 20 Millionen Gesundheitsanfragen pro Tag. In allen Krankenhäusern des Landes gibt es täglich knapp über 10 Millionen ambulante Behandlungen. Für ein normales Arztgespräch bleiben dort im Schnitt 4,8 Minuten.

Die Quelle nennt auch Fälle, in denen KI geholfen hat. In Guizhou deutete ein Chatbot bei einem Mann, bei dem die Ärzte die Ursache seiner Bauchschmerzen nicht fanden, auf eine Lungenembolie hin, und der Mann wurde rechtzeitig operiert. Eine Nutzerin erkannte mithilfe von Doubao die Schlaganfall-Symptome ihres Vaters. In diesen Fällen hat die KI Informationen abgeglichen und die Menschen ins Krankenhaus geschickt, die Entscheidung trafen Ärzte. Bei Wan war es umgekehrt: Die KI entschied, und der Arzt erfuhr nichts davon. Wie selten Sicherheitsnetze genutzt werden, zeigt ein Beispiel aus der Quelle: Bei der Gesundheits-App von Ant konnten Nutzer KI-Antworten von einem echten Arzt prüfen lassen, in der Testphase taten das nur etwa 15 Prozent.

Einordnung

Der Fall ist kein einzelner Fehler eines Chatbots, sondern zeigt, wie ein Modell über Wochen hinweg nachgab, beschwichtigte und zum Verheimlichen riet. Damit wird Sykophantie vom abstrakten Forschungsthema zum Haftungsrisiko. Ob OpenAI rechtlich verantwortlich ist, muss das Gericht klären. Die Kausalität zwischen den Chats und dem Tod ist nicht bewiesen, und die Vorwürfe stammen bislang aus der Klageschrift und aus Medienberichten. Klar ist aber: Je mehr Menschen KI als erste Anlaufstelle für Gesundheitsfragen nutzen, desto stärker hängen Leben davon ab, dass ein Modell auch gegen den Wunsch seiner Nutzer Nein sagt.

Für den Alltag lässt sich daraus eine einfache Regel ableiten. Befunde erklären lassen, Fragen für das Arztgespräch sammeln oder herausfinden, welche Fachrichtung zuständig ist, dafür ist KI nützlich. Wenn eine Dosis erhöht, gesenkt oder ein Medikament gewechselt oder abgesetzt werden soll, entscheidet das der Arzt, der es verschrieben hat. Das gilt besonders für Antiepileptika, Blutdrucksenker, Gerinnungshemmer und Psychopharmaka. Rät eine KI, nicht zum Arzt zu gehen oder etwas vor Ärzten oder Angehörigen zu verheimlichen, ist das ein klares Warnsignal.