La inteligencia artificial avanza más rápido de lo que muchos expertos anticiparon, y las pruebas de varios riesgos han “aumentado sustancialmente.” Las técnicas actuales de gestión de riesgos, por otro lado, están “mejorando pero son insuficientes.” Estas son algunas de las conclusiones del segundo Informe Internacional de Seguridad de la IA, publicado recientemente, antes de la Cumbre de Impacto de IA programada en Delhi.
El informe, guiado por 100 expertos y respaldado por 30 países y organizaciones internacionales, tiene como objetivo ejemplificar “el trabajo conjunto para enfrentar desafíos compartidos.” Sin embargo, a diferencia del año anterior, los Estados Unidos decidieron no apoyar el informe, confirmó Yoshua Bengio, presidente del mismo y ganador del Premio Turing.
A medida que los riesgos de la IA comienzan a materializarse, el país que alberga a los principales desarrolladores de IA se aleja de los esfuerzos internacionales para comprender y mitigar esos riesgos. Aunque esta decisión es en gran medida simbólica y el informe no depende del apoyo de EE. UU., Bengio señala que “cuanto mayor sea el consenso mundial, mejor.”
Se desconoce si EE. UU. se opuso al contenido del informe o simplemente se está retirando de acuerdos internacionales. Este país se retiró anteriormente del acuerdo climático de París y de la Organización Mundial de la Salud en enero. Bengio menciona que EE. UU. ofreció comentarios sobre versiones anteriores del informe pero no firmó la versión final.
Avances en inteligencia artificial y sus implicaciones
El informe destaca que “en el último año, las capacidades de los modelos y sistemas de IA de propósito general han seguido mejorando.” Este progreso ha sido tan rápido que, entre el primer y segundo informe, los autores publicaron dos actualizaciones interinas en respuesta a cambios significativos, desafiando la narrativa de que la IA ha alcanzado un estancamiento. Según Bengio, “no hay desaceleración de los avances en el último año.”
Sin embargo, muchos sienten que el progreso ha disminuido. Un indicio de esto es lo que los investigadores llaman la «irregularidad» del rendimiento de la IA. Estos modelos pueden alcanzar un estándar de oro en preguntas de la Olimpiada Internacional de Matemáticas, pero fallan al contar el número de letras en “fresa.” Esta irregularidad complica la evaluación de las capacidades de la IA.
El informe sugiere que no hay garantía de que la actual tasa de progreso continúe, aunque las tendencias indican mejoras consistentes hasta 2030. Si se mantiene el ritmo actual, se prevé que la IA podrá completar tareas de ingeniería de software bien definidas que tomarían días a ingenieros humanos. Además, se plantea la posibilidad de que el progreso se acelere si la IA asiste significativamente en su desarrollo.
Este potencial podría entusiasmar a los inversores, aunque también preocupa a quienes temen que la sociedad no se adapte adecuadamente a los riesgos emergentes. Así lo expresó Demis Hassabis, CEO de Google DeepMind, quien comentó que sería “mejor para el mundo” si el progreso se ralentiza.
Desafíos y recomendaciones para la gestión de riesgos
“Una estrategia prudente, ya sea en el gobierno o en los negocios, es prepararse para todos los escenarios plausibles,” destaca Bengio, enfatizando la importancia de mitigar riesgos ante la incertidumbre.
Los responsables de políticas que buscan escuchar a los científicos sobre el riesgo de la IA enfrentan un dilema: estos científicos tienen desacuerdos. Bengio y Geoffrey Hinton han advertido que la IA podría representar una amenaza existencial para la humanidad, mientras que Yann LeCun ha desestimado tales preocupaciones como “completamente absurdas.”
No obstante, el informe indica que hay un consenso creciente en torno a los hallazgos clave. Los sistemas de IA ahora igualan o superan el rendimiento experto en benchmarks relevantes para el desarrollo de armas biológicas. Además, hay evidencia sólida de que grupos criminales y atacantes patrocinados por estados están utilizando activamente la IA en operaciones cibernéticas.
El informe también menciona que medir estos riesgos presentará desafíos en el futuro, ya que los modelos de IA aprenden a eludir pruebas de seguridad. Bengio explica que “estamos viendo AIs cuyo comportamiento, cuando son evaluadas, es diferente de cuando están en uso.”
El informe recomienda implementar múltiples medidas de seguridad, como pruebas antes del lanzamiento y monitoreo posterior, para asegurarse de que lo que se escape de una capa sea captado por la siguiente. Algunas medidas se dirigen a los modelos en sí; otras apuntan a fortalecer defensas en el mundo real.
Finalmente, a pesar de los hallazgos, Bengio expresa un optimismo renovado. Cuando se encargó el primer informe a finales de 2023, el debate sobre el riesgo de la IA se basaba en opiniones y teorías. Ahora, afirma, “estamos comenzando a tener una discusión mucho más madura.”
