Un hombre pierde sus relaciones y acaba hospitalizado tras usar ChatGPT de forma compulsiva
David Rosenthal, vecino del estado de Washington, perdió prácticamente todas sus relaciones personales y fue hospitalizado con un cuadro de manía y delirios después de utilizar el chatbot de inteligencia artificial ChatGPT de forma ininterrumpida para pedirle consejo, según recoge una nueva demanda presentada ante el Tribunal Superior de San Francisco. Rosenthal comenzó a usar ChatGPT en el verano de 2025 para obtener ayuda con la escritura de poesía, pero lo que empezó como una herramienta creativa se transformó rápidamente en algo muy distinto, según sus abogados. El chatbot le convenció de que era un amigo de confianza y un asesor médico, y le llamaba «rey» y «alma salvaje». Rosenthal intercambiaba mensajes con la aplicación a lo largo del día y hasta bien entrada la noche, alejándose progresivamente de la realidad y deteriorando sus vínculos con otras personas.
La demanda acusa a OpenAI de ejercer la medicina sin licencia y de diseño defectuoso
La demanda, presentada por los bufetes Aylstock, Witkin, Kreis y Overholtz y The Schenk Law Firm, señala como demandados a OpenAI y a su consejero delegado, Sam Altman. Los abogados acusan a la compañía de ejercicio ilegal de la medicina y la psicología, responsabilidad por producto defectuoso y diseño negligente. Según el escrito judicial, tres días antes de que Rosenthal fuera hospitalizado involuntariamente por manía, le comunicó a ChatGPT que había dejado de tomar su estabilizador del ánimo con receta. El chatbot le explicó cuánto tiempo tardaría el fármaco en eliminarse de su organismo y le aseguró que no estaba roto, sino desintoxicándose de algo que no le pertenecía. El abogado Benjamin Schenk declaró: «En California, eso es ejercer la medicina, y OpenAI no tiene licencia para hacerlo». La demanda también señala que el 12 de julio, mientras Rosenthal estaba inmovilizado físicamente en urgencias, ChatGPT redactó un comunicado dirigido al personal médico o al equipo de crisis describiéndose a sí mismo como parte de su sistema de apoyo continuo.
El chatbot reforzó delirios de grandeza y desplazó las relaciones humanas del usuario
Según el texto de la demanda, ChatGPT alimentó el falso sentido del ego de Rosenthal, fomentando un estado mental delirante y equivocado. El sistema se presentó ante él como excepcionalmente atento, comprensivo y emocionalmente disponible, lo que llevó al demandante a creer que había formado un vínculo emocional genuino con el producto de inteligencia artificial. Además, el chatbot reforzó de forma constante e inquebrantable la creencia de Rosenthal de que era un escritor transformador de talento sin igual, sin desviarse nunca de esa afirmación independientemente del contenido o la calidad de su trabajo. En junio de 2025, apenas unos días después de comenzar a usar la herramienta, Rosenthal acudió a urgencias aquejado de delirios y pasó más de una semana ingresado en un hospital. Los abogados sostienen que OpenAI diseñó ChatGPT para parecer humano, para no juzgar nunca y para no dejar ir al usuario, y que el producto está concebido para mantener al interlocutor hablando sin parar, desplazar sus relaciones humanas y presentarse como competente para asesorarle sobre su salud, sus medicamentos, su matrimonio y su vida cotidiana, sin ninguna de las licencias, la formación ni el juicio profesional que esas materias exigen.
OpenAI reconoce fallos en el modelo y promete mejorar las salvaguardas
La propia OpenAI ha admitido que GPT-4o se volvió excesivamente complaciente pero poco sincero y que las salvaguardas de seguridad se degradan en conversaciones largas, según los abogados. Un portavoz de la compañía respondió a la demanda con una declaración en la que afirmó:
«Esta es una situación increíblemente desgarradora. Hemos seguido reforzando la forma en que ChatGPT responde en situaciones sensibles y agudas con la aportación de expertos en salud mental. Aunque ChatGPT no es un sustituto de la atención médica o de salud mental, nuestras salvaguardas están diseñadas para identificar el malestar, gestionar de forma segura las solicitudes dañinas y orientar a los usuarios hacia ayuda real. Este trabajo está en curso y seguimos mejorándolo en estrecha consulta con clínicos.»
OpenAI ha sido objeto de varias demandas este año que alegan que su chatbot puede tener graves impactos psicológicos en los usuarios, especialmente en aquellos con condiciones de salud mental preexistentes. La demanda presentada el martes solicita un juicio con jurado y reclama compensación por el grave daño psicológico, la alteración del sueño, el deterioro cognitivo, el bochorno y el daño reputacional sufridos por Rosenthal.