La inteligencia artificial (IA) promete ayudar a los médicos en el diagnóstico de pacientes y en la personalización de tratamientos. Sin embargo, un equipo internacional de científicos liderado por el MIT advierte sobre el riesgo de que los sistemas de IA actuales puedan desviar a los médicos debido a decisiones incorrectas tomadas con excesiva confianza.
Para evitar estos errores, los investigadores sugieren programar sistemas de IA que sean más “humildes”. Estos sistemas deberían mostrar cuando no están seguros de sus diagnósticos o recomendaciones y fomentar la recopilación de información adicional ante diagnósticos inciertos.
Un nuevo enfoque en IA
“Estamos utilizando la IA como un oráculo, pero podemos usarla como un entrenador. Podríamos tener a la IA como un verdadero copiloto. Eso no solo aumentaría nuestra capacidad para recuperar información, sino también nuestra capacidad para conectar los puntos”, afirma Leo Anthony Celi, científico investigador del Instituto de Ingeniería Médica y Ciencia del MIT y médico en el Beth Israel Deaconess Medical Center.
Celi y su equipo han creado un marco que orienta a los desarrolladores de IA en la creación de sistemas que exhiban curiosidad y humildad. Este enfoque podría permitir una colaboración más efectiva entre médicos y sistemas de IA, evitando que la IA influya demasiado en las decisiones médicas.
Incorporando valores humanos
Según el equipo del MIT, los sistemas de IA excesivamente confiados pueden provocar errores en entornos médicos. Investigaciones anteriores han mostrado que los médicos de UCI tienden a confiar en los sistemas de IA que consideran fiables, incluso cuando su intuición se opone a la recomendación de la IA. Tanto médicos como pacientes son más propensos a aceptar recomendaciones incorrectas de IA cuando son vistas como autoritarias.
En lugar de sistemas que ofrezcan consejos incorrectos y excesivamente confiados, los investigadores sugieren que las instalaciones de salud tengan acceso a sistemas de IA que colaboren estrechamente con los clínicos.
Diseño de sistemas inclusivos
Este estudio es parte de un esfuerzo más amplio por parte de Celi y su equipo para crear sistemas de IA diseñados por y para las personas que serán más impactadas por estas herramientas. Muchos modelos de IA, como MIMIC, se entrenan con datos públicos de Estados Unidos, lo que puede introducir sesgos hacia ciertas formas de pensar sobre problemas médicos y excluir otras.
Es fundamental incorporar más perspectivas para superar estos sesgos potenciales, subraya Celi, quien destaca que cada miembro del consorcio global aporta una visión única a una comprensión colectiva más amplia.
