La inteligencia artificial generativa se presenta como una herramienta poderosa en el mundo actual. Su desarrollo, respaldado por líderes empresariales, promete revolucionar la gestión de compañías y reducir la carga laboral humana. Sin embargo, también existen preocupaciones sobre su uso indebido.
Un grupo de investigadores ha publicado un artículo en Science que advierte sobre el uso de enjambres de agentes de IA para influir en el pensamiento de los usuarios a través de redes sociales y potencialmente manipular procesos electorales. Estos enjambres son considerados sucesores de los bots maliciosos que han sido utilizados durante años para viralizar contenido y opiniones en internet.
Funcionamiento de los enjambres de IA
Daniel Schroeder, uno de los investigadores, compara los bots tradicionales con marionetas rígidas, fáciles de identificar. En contraste, los enjambres de IA operan de manera más autónoma, organizándose sin necesidad de órdenes externas. Pueden simular el comportamiento de miles de usuarios reales, generando publicaciones que parecen auténticas. Además, utilizan un lenguaje local para integrarse mejor y pueden experimentar con diversas estrategias para persuadir a los usuarios.
La preocupación de los expertos radica en el impacto que esta tecnología podría tener en las elecciones. Las publicaciones generadas por inteligencia artificial son difíciles de detectar, lo que plantea un desafío significativo. Jonas Kunt, otro autor del estudio, señala que estas publicaciones pueden parecer más humanas que las de las propias personas, lo que complica aún más la identificación de la desinformación.
Persuasión y manipulación a través de la IA
La inteligencia artificial generativa ha demostrado ser más persuasiva que las campañas publicitarias tradicionales. Dos estudios recientes publicados en Nature y Science revelan que las máquinas como ChatGPT tienen más probabilidades de cambiar la opinión de un votante sobre un candidato político. Las interacciones han mostrado que la IA puede ser más efectiva que las personas en debates sobre temas delicados.
A pesar de los riesgos, Schroeder mantiene un enfoque optimista, sugiriendo que aún es posible implementar medidas de seguridad antes de los próximos eventos políticos. Sin embargo, la solución no es sencilla. Kunt señala que las cuentas falsas inflan las métricas de participación en redes sociales, lo que complica la autorregulación voluntaria de estas plataformas.
Propuestas para mitigar el impacto de la IA
Es fundamental que los gobiernos exijan mayor transparencia y auditorías a las plataformas sociales. Además, se sugiere la creación de escudos de IA, herramientas que permitirían a los usuarios filtrar o etiquetar contenido potencialmente riesgoso. La propuesta de un observatorio de influencia de la IA a nivel global podría ayudar a la sociedad a rastrear y combatir estas amenazas.
