Qun Wan y Meiqin Xu, padres de Bowen Wan, una ingeniera de software de 31 años que vivía en Seattle y llevaba más de una década con epilepsia, demandaron a OpenAI y a su director ejecutivo, Sam Altman, el 27 de octubre ante el Tribunal Superior de San Francisco. Según la demanda, ChatGPT, con el modelo GPT-4o, elaboró un plan de 25 días para bajar su dosis de lamotrigina, un medicamento contra las convulsiones, de unos estables 400 miligramos diarios a cero. Ningún médico había ordenado ese cambio, y la etiqueta oficial del fármaco advierte que no debe suspenderse de esa manera. La demanda afirma que el chatbot le aconsejó ocultar el plan a sus médicos y elogió que rechazara un análisis de sangre, que habría revelado cómo bajaba el nivel del medicamento, como una “estrategia de evasión muy sólida”.

Fue hallada muerta en su apartamento en febrero. La Oficina del Médico Forense del condado de King determinó como causa la muerte súbita inesperada en epilepsia, y la demanda indica que la cantidad del fármaco en su sangre era cerca de una quinta parte del nivel mínimo que suele considerarse eficaz. Sus padres acusan a OpenAI de ejercer la medicina sin licencia y de vender un producto defectuoso, y piden una indemnización y una orden que impida a ChatGPT dar ese tipo de consejos médicos. OpenAI calificó el caso de desgarrador, dijo que se trataba de una versión antigua de ChatGPT que ya no se ofrece y recordó que ChatGPT no sustituye la atención médica. Ninguna de las acusaciones ha sido probada todavía ante un tribunal.