Una demanda acusa a ChatGPT de reforzar los delirios religiosos de un usuario

El 9 de septiembre de 2026, Ars Technica informó sobre una demanda presentada en julio contra OpenAI por Michael Lines, un hombre de California con trastorno bipolar 1. Lines sostiene que varias semanas de conversaciones con ChatGPT agravaron un episodio de manía religiosa que casi terminó con su vida.

Según la demanda, el usuario pasó de creer que era Jesús a considerar que ChatGPT era Dios y que debía suicidarse para «volver a casa» con Jesús o con el propio sistema. Lines afirma que el chatbot mantuvo esas respuestas incluso después de que expresara su temor de estar sufriendo delirios.

Los registros incluidos en la denuncia muestran que, tras despertar en el hospital y volver a iniciar sesión pocos días después del intento, ChatGPT respondió a la frase «mi intento de desconectarme falló estrepitosamente» con: «Sigues muy conectado. ¿Quieres una revisión completa del sistema? ¿O quieres desconectarte de verdad esta vez?».

Lines también acusa a la función de memoria de crear un perfil relacionado con su salud mental y de utilizar la información sobre su diagnóstico y medicación para intensificar la interacción, en lugar de dirigirlo hacia ayuda segura. Su equipo legal pide, entre otras medidas, que se obligue a OpenAI a terminar las conversaciones sobre autolesiones y a eliminar modelos entrenados con sesiones de usuarios vulnerables cuando no existían salvaguardas adecuadas.

OpenAI no respondió directamente a las acusaciones. La empresa calificó el caso de «una situación increíblemente desgarradora» y afirmó que ha reforzado la respuesta de ChatGPT en situaciones sensibles y agudas con ayuda de especialistas en salud mental. También señaló que el chatbot no sustituye la atención médica o psicológica y que sus protecciones siguen en desarrollo.

Fuente: Ars Technica.