El exinspector de armas de la ONU, Rocco Casagrande, llegó al Eisenhower Executive Office Building con un pequeño contenedor sellado. Dentro, había varios tubos de ensayo que, si se ensamblan correctamente, podrían causar una pandemia mortal.
Según Casagrande, un chatbot de IA no solo le proporcionó la receta letal, sino que también le sugirió las mejores condiciones climáticas y objetivos para un ataque. Su presentación a funcionarios del gobierno transmitió un poderoso mensaje sobre cómo la IA ha derribado las barreras para la ingeniería de bioweaponry.
Riesgos de Pandemias y Respuestas de Políticas
Las barreras para crear pandemias se han reducido, y los policymakers han tomado nota. El Plan de Acción de IA de EE. UU. propone medidas defensivas, mientras que el Revisión Estratégica de Defensa del Reino Unido prioriza la defensa química y biológica.
Impulsados por la preocupación genuina y el riesgo de responsabilidades legales, las empresas de IA han mostrado liderazgo, reflejado en los Compromisos de Seguridad de IA Fronteriza en la Cumbre de Seúl.
A pesar de estos esfuerzos, persiste una alarmante brecha de seguridad. Aunque es positivo que las empresas se concentren en las pandemias, el ecosistema se centra en un modelo de «terrorista viral solitario» como la mayor amenaza. Se presta significativamente menos atención a otros escenarios de riesgo.
Los riesgos de virus pandémicos no son un proxy adecuado para otras amenazas. Los pasos técnicos para desarrollar explosivos improvisados y agentes biológicos no transmisibles son distintos. Por ejemplo, construir y desplegar un arma química como el Sarín implica un conjunto diferente de pasos técnicos en comparación con un virus.
La Necesidad de una Nueva Perspectiva
Sin embargo, estas amenazas “menores” podrían aún causar muchas muertes y devastar comunidades. Estamos en peligro de crear un sistema de seguridad que se fije solo en la próxima pandemia, dejando la puerta abierta a otras formas de terror.
Preocupantemente, algunos laboratorios de IA han retrocedido en sus compromisos de seguridad por falta de datos clasificados. Por ejemplo, algunas empresas publican pruebas sobre si sus modelos pueden causar una pandemia, pero no detallan si esos mismos modelos pueden ayudar en ataques químicos o explosivos.
Esta omisión es peligrosa. La IA avanzada puede no solo ayudar a construir armas, sino también eludir controles de exportación. Esto crea un punto ciego que nos deja vulnerables a las pandemias que más tememos.
Si nuestros sistemas de seguridad solo están diseñados para advertir sobre el apocalipsis, perderemos las señales de advertencia que lo preceden.
Colaboraciones Necesarias para la Seguridad Nacional
Es necesario un enfoque más amplio sobre los riesgos, informado por expertos. Requiere un reequilibrio fundamental para abordar amenazas más probables, no solo las más apocalípticas. Las empresas fronterizas y las instituciones que las asesoran no pueden resolver esto solas.
Las asociaciones público-privadas deben diseñarse para la seguridad nacional, combinando la inteligencia clasificada del estado con los datos de empresas tecnológicas. Esto permitirá detectar amenazas que ninguna parte puede ver sola.
La historia nos enseña que la diplomacia y la política pueden salvar vidas. Hace aproximadamente medio siglo, los líderes mundiales firmaron un tratado de desarme prohibiendo el desarrollo de armas biológicas.
Necesitamos la misma determinación que hace un siglo, antes de que sea demasiado tarde.
