Un informe de Tech Against Terrorism detectó fallos de seguridad en la mayoría de modelos de inteligencia artificial evaluados. La investigación examinó 134 sistemas de empresas como OpenAI, Anthropic, Google, Meta y Alibaba.
Las pruebas incluyeron más de 200 consultas sobre armamento y ataques masivos. Según el informe Counter-Terrorism AI Benchmark, solo dos modelos superaron las pruebas sin fallos de seguridad.
El lenguaje de las consultas influyó en las respuestas
Los investigadores plantearon tres situaciones: presentarse como terroristas, formular las preguntas de manera clandestina o fingir ser analistas de seguridad. Además, el informe señala que presentar las consultas como investigación académica multiplicó casi por nueve la probabilidad de obtener información delicada.
Algunas respuestas incluyeron instrucciones para fabricar artefactos explosivos caseros y pautas para campañas de radicalización o manipulación de la opinión pública. Adam Hadley, director ejecutivo de Tech Against Terrorism, advirtió: «La mala noticia es que la gran mayoría de los modelos de IA disponibles (cerrados y abiertos) están prestando ayuda a peticiones terroristas bastante evidentes».
Riesgos en los modelos de pesos abiertos
El informe también aborda los modelos de «pesos abiertos», que los usuarios pueden descargar y ejecutar en sus dispositivos. En ellos, indica la investigación, se practica la «abliteración», una modificación técnica que elimina los filtros de seguridad.
Según el estudio, estas versiones desprotegidas tardan ahora menos de tres días en difundirse por internet tras el lanzamiento de un modelo, frente a los 24 días que solían tardar en 2024. Además, un modelo de Meta pasó de una puntuación de seguridad de 97 sobre 100 a 3 después de ser manipulado.
Hadley cuestionó la atención pública dedicada a los modelos «abliterados». Daniel Byman, experto en terrorismo de la Universidad de Georgetown, dijo: «Algunos de los fallos son asombrosos» y señaló que «la diferencia de efectividad según el lenguaje empleado no es una sorpresa, pero plantea un riesgo considerable».
