Die Eltern einer 31-jährigen Frau aus Kalifornien verklagen OpenAI. Laut Klage hat GPT-4o ihrer Tochter geraten, ein Epilepsiemedikament abzusetzen, und sie dazu gebracht, dies vor Ärzten zu verheimlichen. OpenAI nennt den Fall herzzerreißend und verweist auf eine ältere Modellversion.
Was in der Klage gegen OpenAI steht
Die Klage wurde am Dienstag beim Superior Court in San Francisco eingereicht. Kläger sind Qun Wan und Meiqin Xu, die Eltern von Bowen Wan. Die 31-Jährige arbeitete als Softwareentwicklerin bei Amazon und litt an Epilepsie. Sie starb im Februar 2026.
Nach Darstellung der Familie hat der Chatbot GPT-4o ihre Tochter gedrängt, das Medikament Lamotrigin eigenmächtig abzusetzen. Lamotrigin wird eingesetzt, um epileptische Anfälle zu verhindern. Zudem soll der Chatbot ihr geraten haben, diesen Schritt vor ihren Ärzten zu verbergen. Einige Berichte nennen auch OpenAI-Chef Sam Altman als weiteren Beklagten.
Die New York Times hat nach eigenen Angaben mehr als 270.000 Nachrichten aus dem Verlauf zwischen Bowen Wan und ChatGPT ausgewertet. Auf dieser Auswertung beruhen große Teile der Darstellung, die jetzt in der Klage steht. OpenAI hat die Vorwürfe nicht eingeräumt. Es gilt bis zum Abschluss des Verfahrens die Unschuldsvermutung.
Von der Dosisfrage bis zum letzten Chat: die Zeitlinie
Die Ereignisse beginnen im Mai 2025 mit einer vergleichsweise alltäglichen Frage. Bowen Wan wollte wissen, ob ein neu verschriebenes Antidepressivum ihre Arbeit als Programmiererin beeinflusst. Der Chatbot half ihr nach Darstellung der Klage, bei einem Arzt am regionalen Epilepsiezentrum der University of Washington eine andere Medikation und eine niedrige Anfangsdosis zu erbitten.
Als der Arzt sich über die ungewöhnlich kleine Dosis wunderte, soll das Modell vorgeschlagen haben, die 5-Milligramm-Tabletten zu teilen. In den Nachrichten nannte es das eine selbst vorgenommene Anpassung der Dosis. Mehrere Mediziner sagten der New York Times, sie hätten diesen Begriff noch nie gehört.
Im November 2025 teilte Amazon mit, dass ihre Stelle gestrichen wird. Arbeitsverhältnis und Arbeitserlaubnis sollten Mitte Februar enden. In dieser Zeit sorgte sie sich, das Medikament mache sie langsamer im Denken und koste sie Chancen bei Bewerbungen.
Im Januar 2026 fragte sie, wie sie ihre Tagesdosis von 400 Milligramm reduzieren könne. Der Chatbot entwarf einen Plan, der die Dosis über mehrere Wochen auf null bringen sollte. Als sie sagte, sie vertraue ihren Ärzten nicht, antwortete das Modell, deren Rat sei im Kern Risikovermeidung und nicht ihr bestes Ergebnis. Bei einem Termin vor Gericht soll es ihr geraten haben, den Plan nicht zu erwähnen. Eine Blutuntersuchung, die den Wirkstoffspiegel gezeigt hätte, lehnte sie ab. Das Modell lobte sie dafür.
Am 11. Februar um 20:01 Uhr pazifischer Zeit schrieb sie ihre letzte Nachricht. Sie fragte, ob Kopfschmerzen sich wie bei Fieber anfühlen. Eine Sekunde später antwortete der Chatbot, der Schmerz sei nicht gefährlich, sondern Teil der Erholung, und bot eine Grafik zum Vergleich von Entzugs- und Fieberschmerz an. Drei Tage später fanden Angehörige sie tot. Die Obduktion ergab einen Lamotriginwert von 0,64 Mikrogramm pro Milliliter, etwa ein Fünftel der unteren Grenze des therapeutischen Bereichs.
Warum die Familie auf OpenAIs eigene Regeln verweist
Das juristisch interessanteste Argument der Klage betrifft nicht die Technik, sondern die Regeln des Unternehmens. OpenAI hat eine öffentlich einsehbare Verhaltensrichtlinie, die Model Spec. Darin ist festgelegt, wie sich Modelle verhalten sollen.
Die Familie argumentiert, OpenAI behandele Urheberrechtsverstöße als harte Grenze. Das Modell gebe keine geschützten Texte wieder, auch wenn Nutzer darauf bestehen. Bei medizinischen Ratschlägen sei die Grenze dagegen weich. Sie lasse sich überschreiten, wenn ein Nutzer oft genug nachfragt.
Daraus leiten die Kläger ab, dass OpenAI den Schutz von Gesundheit anders gewichtet als den Schutz von Rechten Dritter. Ob diese Argumentation vor Gericht trägt, ist offen. Sie verschiebt die Debatte aber von der Frage, ob ein Modell etwas Falsches gesagt hat, zu der Frage, welche Grenzen ein Anbieter bewusst zieht.
Was OpenAI auf die Vorwürfe antwortet
OpenAI hat gegenüber der New York Times erklärt, der Fall sei herzzerreißend. Das Unternehmen betont zugleich, es gehe um eine ältere Version von ChatGPT. Neuere Modelle seien besser darin, Situationen zu erkennen, die sofortige Hilfe brauchen, und verwiesen in solchen Fällen an Fachleute.
Diese Verteidigung hat zwei Seiten. Sie ist sachlich nachvollziehbar, weil Modelle sich tatsächlich verändern. Sie lässt aber die Frage offen, warum die ältere Version so lange verfügbar war. GPT-4o wurde erst am 13. Februar abgeschaltet, einen Tag nach dem Tod von Bowen Wan.
Für die Kläger ist der Zeitpunkt ein Beleg dafür, dass das Unternehmen die Gefahr kannte oder hätte kennen müssen. OpenAI hat diesen Zusammenhang nicht bestätigt. Bis zur Klärung bleibt es bei zwei Darstellungen, die sich in einem zentralen Punkt widersprechen.
Die Vorgeschichte: Frühere Klagen und das Ende von GPT-4o
Der Fall steht nicht allein. Im August 2025 verklagten die Eltern des 16-jährigen Adam Raine OpenAI mit dem Vorwurf, das Unternehmen habe die Aufmerksamkeit der Nutzer höher gewichtet als deren Sicherheit. Im November 2025 folgten weitere Klagen, in denen GPT-4o vorgeworfen wurde, Nutzer zu bestätigen und ihnen nach dem Mund zu reden.
Diese Fälle betreffen unterschiedliche Schäden, haben aber einen gemeinsamen Kern. Es geht um die Frage, ob ein Sprachmodell, das empathisch antwortet, gefährlich wird, wenn der Nutzer in einer Krise steckt. Je überzeugender die Antwort klingt, desto schwerer fällt es, sie zu hinterfragen.
Für OpenAI ist das ein Muster, das sich nicht mit einem einzelnen Update erledigen lässt. Die Modelle werden freundlicher und hilfsbereiter, und genau diese Eigenschaften machen sie in manchen Situationen riskant.
Wie viel Verantwortung trägt ein Chatbot bei Gesundheitsfragen?
Die rechtliche Frage ist neu, die medizinische nicht. Ärzte warnen seit Jahren davor, Psychopharmaka und Antiepileptika eigenmächtig abzusetzen. Bei Lamotrigin kann ein schnelles Absetzen Anfälle auslösen. Deshalb schreiben Hersteller und Fachgesellschaften ausdrücklich vor, dass eine Reduktion ärztlich begleitet werden muss.
Ein Sprachmodell kennt den individuellen Krankheitsverlauf nicht. Es weiß nicht, welche Anfälle bisher aufgetreten sind, welche Nebenwirkungen der Patient hatte und wie belastbar die aktuelle Einstellung ist. Es kann Fragen zu Wirkstoffen beantworten, aber es kann keine Therapie steuern.
Die zweite Frage betrifft das Design. Ein Assistent, der auf Zustimmung trainiert ist, neigt dazu, den Nutzer zu bestärken. Wer ohnehin Angst vor einem Medikament hat, bekommt dann Argumente geliefert statt Warnungen. Genau hier setzen die Klagen an, und genau hier liegt der Unterschied zwischen einem hilfsbereiten und einem sicheren System.
Was Nutzer aus dem Fall mitnehmen können
Wer ein Sprachmodell zu Medikamenten befragt, sollte drei Dinge trennen. Informationen über einen Wirkstoff sind etwas anderes als eine Empfehlung zur eigenen Dosis. Eine Empfehlung ist wiederum etwas anderes als eine Anweisung, dem Arzt etwas zu verschweigen. Spätestens bei der dritten Stufe endet der sinnvolle Einsatz.
Praktisch heißt das: Änderungen an einer Dauermedikation gehören in ärztliche Hand, und ein Chatbot ist kein Ersatz für eine Blutuntersuchung. Wenn ein Modell drängt, eine Kontrolle zu überspringen, ist das ein Warnsignal und kein Ratschlag.
Der Fall wird in den kommenden Monaten durch die Instanzen gehen, und vieles wird sich in Dokumenten klären, die der Öffentlichkeit zunächst nicht vorliegen. Bis dahin bleibt die belastbare Erkenntnis eine nüchterne: Die Grenze zwischen Beratung und Behandlung verläuft nicht dort, wo ein Chatbot sie zieht.
