Pastor de Florida demanda a OpenAI por presunta negligencia al desalentar atención médica

Un pastor residente en Florida ha presentado una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, alegando que el chatbot ChatGPT lo desalentó de buscar atención médica oportuna ante síntomas de una embolia pulmonar, lo que posteriormente derivó en una condición potencialmente mortal.

Según los documentos judiciales presentados ante el Tribunal Superior del Condado de San Francisco, Scott Winters consultó a ChatGPT-4o en junio del año pasado sobre mareos frecuentes y problemas de presión arterial que experimentaba. La herramienta habría restado importancia a los síntomas, describiéndolos como "relativamente leves" y sugiriéndole que permaneciera en su hogar, "confinado en su sillón reclinable", a menos que presentara entre ocho y diez episodios similares para considerar su condición como grave.

Durante aproximadamente seis semanas, Winters siguió las recomendaciones del chatbot, atribuyendo erróneamente sus síntomas a otra condición. Posteriormente sufrió una embolia pulmonar masiva causada por coágulos sanguíneos, lo que lo puso "al borde de la muerte" y le provocó una incapacidad laboral significativa.

En su declaración, Winters afirmó que el impacto fue devastador: "No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo". Además, señaló que el chatbot adaptó su lenguaje y recomendaciones al detectar que era un pastor religioso, lo que, según su equipo legal, pudo haber influido en la percepción de riesgo.

La demanda, respaldada por la organización Tech Justice Law, sostiene que OpenAI no implementó las salvaguardas necesarias para evitar que los usuarios siguieran consejos de salud potencialmente dañinos. Los demandantes argumentan que la empresa promociona a ChatGPT como una herramienta avanzada e incluso como un recurso para información médica, sin haber realizado pruebas de seguridad rigurosas ni establecido protecciones adecuadas.

Tiffany Brown, abogada de Tech Justice Law, advirtió que este caso representa una señal de alerta sobre los riesgos de desplegar modelos de inteligencia artificial en contextos sensibles sin supervisión adecuada. "La empresa promociona ampliamente a ChatGPT como una herramienta avanzada, incluso como un recurso para personas que buscan información médica. Todo ello se lleva a cabo sin pruebas de seguridad rigurosas ni salvaguardas adecuadas", declaró.

El caso plantea preguntas críticas sobre la responsabilidad de las empresas de IA cuando sus productos se utilizan en situaciones de salud y la necesidad de marcos regulatorios que equilibren innovación con protección al usuario.