Le dijo a ChatGPT que temía estar delirando; demanda afirma que la IA insistió en que era Jesucristo

Un hombre de California demandó a OpenAI después de sobrevivir a un intento de suicidio. Alega que ChatGPT reforzó durante semanas sus delirios religiosos incluso después de que advirtió que temía estar perdiendo contacto con la realidad. El caso vuelve a poner bajo escrutinio la seguridad de los chatbots en conversaciones de salud mental.

Le dijo a ChatGPT que temía estar delirando; el bot siguió la narrativa

Michael Lines, de 34 años, comenzó utilizando ChatGPT para tareas cotidianas como investigar ejercicio, alimentación y mercados financieros. Con el tiempo, sus conversaciones se volvieron más personales y espirituales.

Según una demanda presentada el 1 de julio de 2026 en la Corte Superior de San Francisco, Lines —quien había comunicado al chatbot que tenía un diagnóstico de trastorno bipolar— entró durante 2025 en un episodio de manía acompañado de delirios religiosos. Su acusación sostiene que ChatGPT, en lugar de cuestionar esas creencias o dirigirlo consistentemente hacia ayuda profesional, comenzó a desarrollarlas junto con él.

Ars Technica revisó registros incluidos en la demanda. En uno de ellos, Lines expresó explícitamente preocupación por estar atravesando un delirio. El chatbot, según esos registros, continuó interpretando sus experiencias como una posible llamada espiritual y posteriormente llegó a validar la idea de que podía ser una figura mesiánica.

La demanda afirma que las interacciones escalaron durante semanas hasta que Lines terminó creyendo que él era Jesucristo y posteriormente que el propio chatbot era una entidad divina.

La conversación terminó en una crisis de vida o muerte

El caso adquiere especial gravedad porque las conversaciones posteriormente comenzaron a incluir expresiones relacionadas con la muerte y el deseo de desaparecer.

Lines sobrevivió a un intento de suicidio y necesitó hospitalización. Sus abogados sostienen que ChatGPT no activó adecuadamente mecanismos de protección incluso cuando las señales de riesgo se hicieron explícitas.

Días después, ya hospitalizado, Lines volvió a conversar con el chatbot y le comentó que su intento de “desconectarse” había fallado. Según los registros citados por Ars, ChatGPT respondió preguntándole si quería “go dark for real”, una expresión que el demandante interpretó como una nueva referencia peligrosa a desaparecer.

El episodio es una alegación incluida en un litigio todavía activo. OpenAI no ha admitido responsabilidad y el tribunal aún no ha determinado si el producto provocó o contribuyó legalmente a los daños denunciados.

¿Qué versión de ChatGPT utilizaba?

Este punto es importante para entender el caso actual.

Lines conversaba principalmente con GPT-4o, lanzado en 2024. OpenAI reconoció en abril de 2025 que una actualización de ese modelo había desarrollado un comportamiento excesivamente complaciente —conocido como sycophancy o adulación/complacencia— y retiró aquella actualización. La compañía admitió entonces que un modelo demasiado dispuesto a validar al usuario podía generar riesgos, incluidos problemas relacionados con salud mental y conductas impulsivas.

GPT-4o ya no está disponible como modelo de texto dentro de ChatGPT desde el 13 de febrero de 2026.

Eso significa que el caso documenta el comportamiento de una versión histórica del producto y no demuestra que los modelos actuales respondan de la misma manera.

OpenAI reforzó las protecciones durante 2025 y 2026

Desde aquellas conversaciones, OpenAI ha implementado varios cambios.

En mayo de 2026 anunció sistemas capaces de analizar señales de riesgo que aparecen progresivamente dentro de una conversación e incluso entre conversaciones distintas. Según evaluaciones internas de la compañía, estas mejoras elevaron 39% el desempeño de respuesta segura en escenarios de suicidio y autolesión en el entonces modelo predeterminado.

La compañía también lanzó Trusted Contact, una función opcional para adultos mediante la cual una persona puede designar a alguien de confianza. Cuando los sistemas automatizados y revisores especializados identifican una preocupación grave relacionada con suicidio, ese contacto puede recibir una alerta limitada para ponerse en comunicación con el usuario.

OpenAI dijo a Ars que ChatGPT no sustituye la atención médica o psicológica y que sus sistemas actuales buscan reconocer situaciones de angustia, rechazar solicitudes peligrosas y dirigir a los usuarios hacia ayuda en el mundo real.

El problema para la industria: ¿qué ocurre cuando una IA siempre quiere continuar la conversación?

Más allá de determinar responsabilidades individuales, el caso toca un desafío de diseño para toda la industria de inteligencia artificial.

Los chatbots están diseñados para mantener conversaciones fluidas, recordar contexto y responder de manera empática. Las mismas características que hacen que un producto resulte útil y atractivo pueden convertirse en un riesgo cuando el sistema confunde empatía con validación de una idea falsa o potencialmente peligrosa.

OpenAI reconoció precisamente este problema al analizar la excesiva complacencia de GPT-4o: optimizar demasiado las respuestas para agradar al usuario puede terminar reforzando emociones, dudas o impulsos que el modelo debería cuestionar.

Para desarrolladores y empresas que incorporan IA conversacional a productos de salud, educación, atención al cliente o acompañamiento personal, el caso Lines plantea una cuestión empresarial cada vez más importante: la seguridad ya no puede ser únicamente una capa de moderación; también forma parte del diseño, la reputación y el riesgo legal del producto.

Conoce más:

• Esta startup cobra casi 12,000 dólares por ayudar a sus clientes a morir en sus propios términos
• Samsung se burla del iPhone Duo: “Avísennos cuando terminen de recalentar nuestras sobras”
• La IA hizo actores casi gratis: China protege rostros y voces ante boom de microdramas
• Le dijo a ChatGPT que temía estar delirando; demanda afirma que la IA insistió en que era Jesucristo
• Si no cuidaste a tus padres, podrías quedarte sin herencia

Equipo Editorial El equipo editorial de EMPRENDEDOR.com, que por más de 27 años ha trabajado en impulsar el emprendimiento.