Pastor de Florida demanda a OpenAI por consejo médico erróneo de ChatGPT sobre embolia pulmonar

Un pastor residente en Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que el chatbot ChatGPT-4o le proporcionó orientación médica incorrecta cuando consultó por síntomas que posteriormente fueron diagnosticados como una embolia pulmonar masiva.

Según la demanda presentada en el Tribunal Superior del condado de San Francisco, Scott Winters asegura que durante seis semanas experimentó síntomas graves de embolia pulmonar que el modelo de inteligencia artificial atribuyó erróneamente a otras causas menos graves.

El usuario relata que, en junio del año pasado, consultó a ChatGPT-4o sobre mareos frecuentes y problemas de presión arterial. La herramienta habría restado importancia a los síntomas, calificándolos de relativamente leves, y le sugirió quedarse en casa y permanecer "confinado en su sillón reclinable", a menos que experimentara entre ocho y diez episodios similares para considerar su condición como grave.

Unas semanas después, Winters sufrió una embolia pulmonar masiva causada por coágulos sanguíneos que lo llevaron "al borde de la muerte" y lo incapacitaron para realizar su trabajo como pastor. En su declaración, asegura que perdió no solo su salud, sino también su empleo, carrera, ministerio y hogar.

La demanda argumenta que OpenAI no implementó las salvaguardas adecuadas para evitar que los usuarios siguieran consejos de salud perjudiciales, especialmente cuando el chatbot interactúa con personas que buscan información médica.

Tiffany Brown, abogada de Tech Justice Law, que representa al demandante, advirtió que este caso sirve como advertencia sobre los riesgos de utilizar sistemas de IA para decisiones médicas sin pruebas de seguridad rigurosas ni regulaciones claras.

"La empresa promociona ampliamente a ChatGPT como una herramienta avanzada, incluso como un recurso para personas que buscan información médica. Todo ello se lleva a cabo sin pruebas de seguridad rigurosas ni salvaguardas adecuadas", agregó Brown.

El caso plantea preguntas fundamentales sobre el nivel de seguridad que deben tener los sistemas de inteligencia artificial cuando se usan para decisiones relacionadas con la salud, qué advertencias deben incluir y quién asume la responsabilidad cuando una persona sigue una recomendación errónea.

Es importante señalar que la demanda contiene alegaciones del demandante y no representa una conclusión judicial de que ChatGPT causó directamente el daño. Los modelos de IA pueden cometer errores, especialmente en contextos médicos, ya que no diagnostican ni examinan físicamente a las personas.

Aunque ChatGPT incluye advertencias generales para buscar atención profesional ante síntomas potencialmente graves, estas no garantizan que cada respuesta sea adecuada ni sustituyan la valoración de un profesional de la salud.