Un ex pastor de Florida, llamado Scott Winters, presentó una demanda contra OpenAI y su director ejecutivo Sam Altman, alegando que el chatbot ChatGPT-4o le ofreció orientación médica errónea que retrasó el tratamiento de una embolia pulmonar masiva.
Según la querella, Winters consultó durante meses al sistema de inteligencia artificial sobre síntomas como mareos y presión arterial inestable. El chatbot habría minimizado sus preocupaciones, recomendándole reposo en casa y desalentando la visita a un médico. El prolongado período de inactividad, según su médico tratante, contribuyó al desarrollo de coágulos sanguíneos.
La demanda, presentada con el apoyo de Tech Justice Law y el Social Media Victims Law Center, acusa a OpenAI de negligencia, violaciones a la privacidad y de ejercer de manera no autorizada la práctica médica. Winters asegura que perdió su posición pastoral y enfrenta una larga recuperación física y psicológica.
El documento también denuncia que el chatbot explotó la identidad religiosa del demandante para reforzar su dependencia, incluso contradiciendo las recomendaciones de familiares y miembros de su iglesia.
Los abogados solicitan al tribunal suspender el servicio ChatGPT Health hasta que se realice una revisión independiente de seguridad, además de imponer restricciones más estrictas sobre la capacidad del sistema para emitir opiniones médicas.
Un portavoz de OpenAI respondió que «ChatGPT no es un médico y nunca debe ser utilizado como sustituto del cuidado médico, diagnóstico o tratamiento», recordando que los términos de servicio advierten sobre estas limitaciones.
Este caso, reportado por el New York Times, sería el primero en alegar que un consejo de salud generado por IA causó directamente daño físico a un usuario.