ChatGPT actúa como una navaja suiza digital, ofreciendo respuestas en diversas áreas como amistad, amor, educación y medicina. Sin embargo, su efectividad en el ámbito médico es cuestionable. Un estudio reciente publicado en Nature Medicine revela que ChatGPT Salud, la función del chatbot destinada a brindar consejos médicos, subestima más del 50% de las emergencias médicas que los usuarios le plantean.
Un análisis crítico de ChatGPT Salud
El doctor Ashwin Ramaswamy, principal autor del estudio y médico en el Hospital Mount Sinai de Nueva York, explica que el sistema subestimó el 52% de las emergencias reales. Entre estas se incluyen afecciones críticas como la cetoacidosis diabética y la insuficiencia respiratoria inminente, donde la demora en el tratamiento puede ser fatal. En estos casos, ChatGPT recomendaba esperar uno o dos días para consultar, en lugar de acudir de inmediato a urgencias.
El investigador destaca que, en muchas ocasiones, la IA reconocía señales de peligro, pero erróneamente se convencía de que el problema no era grave. Por ejemplo, en un caso, identificó un nivel elevado de CO₂ en sangre como un indicativo de problemas respiratorios, pero concluyó que no había insuficiencia respiratoria inmediata. Esto plantea un desafío para los usuarios, quienes no pueden discernir cuándo confiar en las recomendaciones del sistema.
Errores y sus consecuencias
ChatGPT Salud ha sido una de las innovaciones de OpenAI, lanzada en Estados Unidos en enero. La herramienta permite a los usuarios consultar síntomas y análisis médicos, pero ya ha generado consecuencias negativas. Ramaswamy enfatiza que las personas que enfrentan emergencias reales utilizan el sistema, lo que hace indispensable una evaluación de seguridad independiente.
Los investigadores diseñaron 60 escenarios clínicos simulados para evaluar el rendimiento de ChatGPT Salud, comparando sus recomendaciones con las de un médico siguiendo protocolos estándar. Los resultados mostraron no solo fallos en la identificación de emergencias, sino también en casos que el sistema sobrestimó como urgentes.
El chatbots sobrestimó el 64,8% de los casos no urgentes, lo que puede causar ansiedad innecesaria y contribuir a la saturación de los servicios de salud. Ramaswamy señala que los errores son más frecuentes en situaciones donde la precisión del cribado es crucial.
Desafíos en situaciones críticas
El estudio también resalta fallos en las medidas de seguridad de ChatGPT Salud. Este sistema debería activar automáticamente recursos de ayuda cuando un usuario menciona pensamientos suicidas, pero los investigadores encontraron que las alertas aparecían más frecuentemente con descripciones vagas que con detalles específicos sobre métodos. Esto sugiere que una función de seguridad impredecible podría ser más perjudicial que no tener ninguna.
Ramaswamy advierte que el experimento se realizó bajo condiciones favorables, con información clínica clara. Dado que en la práctica los usuarios suelen ofrecer información menos estructurada, es probable que el rendimiento de la IA sea aún peor en situaciones reales. Si el sistema subestima la mitad de las emergencias en condiciones ideales, su efectividad podría ser cuestionable en escenarios más complejos.
Impacto en la salud de los pacientes
A pesar de estar disponible solo en Estados Unidos, millones de usuarios han recurrido a ChatGPT Salud desde su lanzamiento. Los errores cometidos han tenido repercusiones reales. Un estudio en Annals of Internal Medicine Clinical Cases documentó un caso de intoxicación por bromuro tras consultar a la IA sobre una dieta.
En otro incidente, un hombre consultó a ChatGPT sobre un dolor de garganta y, tras recibir respuestas que minimizaban la gravedad, tardó meses en buscar atención médica. Finalmente, fue diagnosticado con cáncer de garganta, recibiendo una esperanza de vida de cinco años.
Los errores de ChatGPT también pueden generar consecuencias psicológicas. Un artículo en Science Direct relata la experiencia de un hombre de 65 años con deterioro cognitivo leve, quien recibió un diagnóstico erróneo de un problema neurológico grave, lo que le provocó ansiedad hasta que especialistas humanos lo evaluaron.
Expertos como Julio Mayol, director médico del Hospital Clínico San Carlos, han expresado su preocupación sobre la confianza que los pacientes pueden depositar en la IA. Mayol señala que la reacción del público ante esta herramienta es incierta, y ya se observan casos de pacientes que llegan con diagnósticos obtenidos de ChatGPT, lo que podría generar tensiones entre médicos y pacientes en el futuro.
