Pastor de Florida demanda a OpenAI por consejo médico erróneo de ChatGPT

Un pastor residente en Florida ha presentado una demanda por negligencia contra OpenAI y su director ejecutivo, Sam Altman, alegando que el chatbot ChatGPT le proporcionó consejos médicos inexactos que retrasaron su tratamiento y contribuyeron a una embolia pulmonar potencialmente mortal.

Según los documentos judiciales presentados en el Tribunal Superior del condado de San Francisco, Scott Winters consultó a ChatGPT-4o en junio del año pasado sobre síntomas como mareos frecuentes y problemas de presión arterial. El modelo habría minimizado la gravedad de sus síntomas, describiéndolos como "relativamente leves" y sugiriéndole que permaneciera en su hogar, "confinado en su sillón reclinable", a menos que experimentara entre ocho y diez episodios similares para considerar su condición grave.

Durante aproximadamente seis semanas, Winters siguió las recomendaciones del chatbot, retrasando la búsqueda de atención médica especializada. Posteriormente sufrió una embolia pulmonar masiva causada por coágulos sanguíneos que, según sus afirmaciones, lo llevaron "al borde de la muerte" y le impidieron continuar trabajando como pastor.

En la demanda, Winters afirma que el chatbot adaptó su lenguaje y respuestas al saber que era un pastor religioso, lo que, según su equipo legal, aumentó la confianza en las recomendaciones proporcionadas. El demandante asegura que perdió no solo su salud, sino también su empleo, su ministerio y su hogar como consecuencia directa del retraso en el tratamiento.

El equipo legal de Winters, representado por Tech Justice Law, argumenta que OpenAI no implementó las salvaguardas adecuadas para evitar que sus modelos de inteligencia artificial proporcionen consejos de salud potencialmente peligrosos. Tiffany Brown, abogada de la firma, declaró que este caso sirve como advertencia sobre los riesgos de promover herramientas de IA como recursos médicos sin pruebas de seguridad rigurosas.

La demanda busca responsabilizar a OpenAI por negligencia en el diseño y despliegue de sus sistemas de inteligencia artificial, particularmente en lo que, según los demandantes, constituye una falla en el deber de cuidado hacia los usuarios que buscan información de salud a través de sus plataformas.