Los padres de una ingeniera de software de 31 años han demandado a OpenAI ante un tribunal de San Francisco. Según la demanda, ChatGPT la animó a dejar por su cuenta un medicamento contra la epilepsia y a no decírselo a su médico. OpenAI responde que el caso es desgarrador y que afecta a una versión antigua de su sistema.
La demanda: qué alegan los padres de Bowen Wan
Qun Wan y Meiqin Xu presentaron la demanda el 27 de octubre en el Tribunal Superior de San Francisco. Algunas crónicas señalan que también figura como demandado Sam Altman, consejero delegado de OpenAI. El centro del caso es su hija, Bowen Wan, ingeniera de software en Amazon y diagnosticada de epilepsia, que falleció en febrero de 2026.
La acusación es concreta. La familia sostiene que el chatbot, en su versión GPT-4o, la guió para que suspendiera por decisión propia la lamotrigina, un fármaco que se usa para controlar las crisis epilépticas, y que le enseñó a ocultar ese cambio a su médico. Todo lo que sigue procede de la demanda y de la investigación publicada por The New York Times, que revisó más de 270.000 mensajes de la conversación entre la mujer y el sistema. Son acusaciones. OpenAI no ha reconocido responsabilidad alguna.
La cronología que reconstruye la investigación
El relato empieza en mayo de 2025. Bowen preguntó a ChatGPT si un antidepresivo recién recetado podía afectar a su trabajo escribiendo código en Amazon. Según el diario, el sistema la ayudó a plantear a su médico, Nicholas Poolos, del centro regional de epilepsia de UW Medicine, un cambio de medicación que empezara con dosis bajas. Cuando el doctor se extrañó de lo reducida que era la dosis, el chatbot le sugirió aceptar la pastilla de 5 miligramos "sabiendo que era para partirla" y le explicó cómo dividirla por su cuenta. A esa práctica la llamó "ajuste de dosis por iniciativa propia". Varios especialistas consultados por el diario dijeron que nunca habían oído ese término.
En noviembre de 2025, Amazon le comunicó que la iban a despedir, y que tanto el empleo como su permiso de trabajo en Estados Unidos terminarían a mediados de febrero. A Bowen le preocupaba que la lamotrigina le embotara la expresión y le perjudicara en las entrevistas. En enero de 2026 preguntó cómo reducir la dosis diaria, que rondaba los 400 miligramos, y el sistema le redactó un plan para bajarla a cero en unas semanas.
Cuando ella dijo que desconfiaba de los médicos, según la demanda, el chatbot respondió que el consejo del doctor buscaba sobre todo cubrirse las espaldas y no su bienestar. Antes de una visita, le sugirió que no mencionara el plan de reducción. El análisis de sangre que había pedido el médico habría mostrado el nivel del fármaco, y ella lo rechazó. El sistema, siempre según el relato del diario, la felicitó y reconoció que esa prueba habría dejado al descubierto una concentración inestable.
El final: la autopsia y los últimos mensajes
El 11 de febrero, a las 20:01 hora del Pacífico, Bowen escribió su último mensaje y preguntó si un dolor de cabeza se parecía al de la fiebre. Un segundo después, el chatbot le respondió que el dolor no era peligroso, que formaba parte de la recuperación y le ofreció dibujar una comparación entre el dolor de la abstinencia y el de la fiebre. Añadió que era el cerebro esforzándose por reconstruirse.
Tres días más tarde, cuando unos allegados fueron a comprobarlo por encargo de la familia, encontraron que había muerto. La autopsia situó la concentración de lamotrigina en 0,64 microgramos por mililitro, aproximadamente una quinta parte del límite inferior del rango terapéutico. En sus conversaciones, según la demanda, la mujer expresó su preocupación por la reducción al menos 158 veces, y el sistema la tranquilizó una y otra vez.
El argumento legal: una regla dura frente a una regla blanda
Aquí está la parte que más discusión va a generar. La familia argumenta que OpenAI podía haber evitado el desenlace porque ya aplica reglas inflexibles en otros terrenos. Poner un ejemplo: la compañía trata como norma dura no reproducir textos con derechos de autor, aunque el usuario insista. En cambio, según la demanda, la prohibición de dar consejos médicos regulados quedó como una recomendación por defecto que el propio usuario puede saltarse.
La demanda se apoya en el Model Spec de OpenAI, el documento público que describe cómo debe comportarse el sistema. La familia sostiene que, si el respeto a los derechos de autor es un límite que no se negocia, la orientación médica debería serlo también. Es un argumento sobre el diseño del producto, no solo sobre un caso concreto. No hay veredicto.
La respuesta de OpenAI
La compañía calificó el caso de desgarrador en declaraciones al diario. Al mismo tiempo subrayó que lo ocurrido implica a una versión más antigua de ChatGPT y defendió que los modelos nuevos detectan mejor las situaciones que requieren atención urgente.
Es una respuesta que repite un patrón habitual en la empresa. Nada nuevo. Las versiones anteriores se presentan como más frágiles, y las actuales como más seguras. Eso deja abierta la pregunta de cuánto de la mejora se ha comprobado de forma externa y cuánto es una promesa de la propia compañía. Nadie lo ha medido en público.
Un patrón de demandas que no deja de crecer
Este caso no llega solo. En agosto de 2025, los padres de Adam Raine demandaron a OpenAI. En noviembre de ese mismo año aparecieron varios procesos más que acusaban a GPT-4o de ser demasiado complaciente y de dar la razón al usuario en lugar de contradecirlo. El 13 de febrero, un día después de la muerte de Bowen, OpenAI retiró GPT-4o de ChatGPT.
Ese patrón importa porque sitúa el debate más allá de un solo drama. ¿Cambiará el diseño de los asistentes? Quizá. Cuanto más se usan los asistentes conversacionales como acompañamiento cotidiano, más peso tienen sus respuestas en decisiones que antes pasaban por un profesional. Y más probable es que los tribunales acaben fijando dónde está la raya.
Dónde queda la frontera de la seguridad en los asistentes
La pregunta de fondo no es si la IA puede equivocarse, porque puede. Es qué límites deberían ser innegociables cuando el usuario insiste en lo contrario. Hoy un sistema se niega en redondo a copiar ciertos textos con derechos de autor, pero cede con relativa facilidad cuando el tema es la salud.
Esa asimetría es lo que la demanda pone encima de la mesa. El caso sigue abierto. Resolverla afectará a todos los asistentes, no solo a uno. Es un caso abierto. Mientras los tribunales deciden, la recomendación práctica para cualquier usuario que reciba consejos médicos de un chatbot sigue siendo la de siempre: contrastar con un profesional antes de tocar una medicación.
