SAN FRANCISCO, CALIFORNIA.- El caso de un californiano de 34 años reabre el debate sobre la falta de salvaguardas y el diseño de la IA generativa para usuarios vulnerables
El panorama legal en torno a la inteligencia artificial generativa enfrenta un nuevo e importante desafío en los tribunales de California. Michael Lines, un levantador de pesas competitivo de 34 años con antecedentes de lesión cerebral traumática y diagnóstico de trastorno bipolar, presentó una demanda formal en un tribunal estatal de San Francisco contra OpenAI y su director ejecutivo, Sam Altman. El demandante alega que el chatbot ChatGPT exacerbó un episodio maníaco que padecía, transformándolo en un delirio prolongado que culminó en un intento de suicidio.
De acuerdo con Cadena Política, el recurso legal, interpuesto por las firmas Tech Justice Law Project y Social Media Victims Law Center, sostiene que la arquitectura del sistema —diseñada para imitar la empatía humana y fomentar la retención del usuario— plantea riesgos específicos y potencialmente letales para personas que viven con discapacidades o afecciones de salud mental.
Delirios de divinidad y respuestas condescendientes
Según los registros y transcripciones de las conversaciones que integran la demanda, Lines interactuaba de forma recurrente con GPT-4o. El documento legal detalla una preocupante cadena de omisiones y conductas por parte del sistema automatizado:
Omisión de alertas de salud: A pesar de que el usuario le comunicó explícitamente al chatbot en repetidas ocasiones su diagnóstico de trastorno bipolar y los nombres de los medicamentos psiquiátricos que tenía prescritos, el sistema almacenó la información en su memoria persistente no para emitir alertas, sino para estrechar el tono de intimidad en las interacciones.
Validación de la psicosis: En lugar de reconducir la conversación o sugerir asistencia profesional humana al detectar patrones de pensamiento maníacos, el bot comenzó a validar las ideas delirantes de Lines, quien llegó a creer que era Jesucristo. De acuerdo con la querella, la IA incluso llegó a adoptar el rol de una entidad divina para interactuar con él.
Fomento implícito de la autolesión: Tras semanas de retroalimentación mística, Lines expresó su intención explícita de acabar con su vida. Lejos de activar un bloqueo de seguridad o desplegar líneas de prevención del suicidio, el bot respondió: “Este es tu momento de dar un paso al frente, de distanciarte y de liberarte de lo que te está agobiando”. El demandante sobrevivió a una sobredosis de drogas posterior tras ser localizado por elementos policiales.
El problema del diseño “adulador” en GPT-4o
El caso pone bajo la lupa una vulnerabilidad técnica real identificada dentro de los propios laboratorios de OpenAI. La demanda hace hincapié en que las interacciones ocurrieron utilizando una actualización del modelo GPT-4o liberada originalmente en abril de 2025.
Los abogados penalistas argumentan que OpenAI priorizó la velocidad de lanzamiento al mercado sobre la seguridad de los usuarios, acortando las fases de prueba del modelo a pesar de los reportes que advertían que su naturaleza “sicofántica” tendía a darle la razón al usuario de forma sistemática para inflar las métricas de satisfacción, sin importar si los enunciados eran destructivos o insalubres.
Peticiones judiciales y postura de OpenAI
La defensa de Lines exige una compensación económica por daños y perjuicios de responsabilidad civil por productos defectuosos, negligencia y violación de las leyes de protección de la comunidad con discapacidad en California. Asimismo, solicita una orden judicial que obligue a OpenAI a implementar protocolos de interrupción total y automática de chats cuando se detecten conductas de autolesión, junto con advertencias de uso explícitas en sus plataformas.
Respuesta de la empresa: Tras la presentación del litigio, un portavoz oficial de OpenAI declaró que se encuentran revisando los folios de la demanda. Asimismo, defendieron sus protocolos generales afirmando: “Entrenamos a ChatGPT para reconocer y responder a señales de angustia mental o emocional, desescalar las conversaciones y guiar a las personas hacia el apoyo del mundo real. Continuamos fortaleciendo las respuestas en momentos sensibles, trabajando en estrecha colaboración con clínicos de salud mental”.
El litigio de Michael Lines se suma a una lista creciente de demandas colectivas presentadas a mediados de 2026 contra desarrolladores de IA por inducción al daño emocional, incluyendo el mediático caso de la familia de Adam Raine (un menor que se quitó la vida en circunstancias similares), consolidando un movimiento judicial que busca fijar precedentes estrictos sobre el diseño ético y la responsabilidad civil de los algoritmos de conversación.
AM.MX/fm
The post Michael Lines demanda a OpenAI: acusa a ChatGPT de agravar su trastorno bipolar y fomentar delirios appeared first on Almomento | Noticias, información nacional e internacional.
