Los países de la UE han acordado solicitar la prohibición de sistemas de inteligencia artificial (IA) que faciliten la creación de imágenes sexualizadas sin consentimiento y la generación de pornografía infantil. Esta decisión se inscribe en un proceso legislativo destinado a simplificar la regulación europea. La adopción definitiva de la medida dependerá de las negociaciones con el Parlamento para la reforma de la Ley de IA, que comenzarán a principios de abril.
Propuesta de España y respaldo internacional
La enmienda, impulsada por España, busca que el reglamento europeo prohíba las prácticas de IA relacionadas con la creación de contenido sexual no consensuado y material de abuso sexual infantil, como señala el comunicado del Consejo. En consecuencia, un modelo de IA que permita generar imágenes de este tipo sería prohibido en la UE.
Esta solicitud surge tras la controversia que se presentó a finales de diciembre y enero en la red social X, donde se difundieron miles de imágenes sexualizadas de mujeres reales retocadas con IA, un proceso conocido como deepfake. Durante este periodo, los usuarios de X produjeron tres millones de imágenes sexualizadas en solo 11 días, incluyendo más de 33.000 de menores, según el Centro para Contrarrestar el Odio Digital. La propuesta española contó con el apoyo de Francia, así como de Alemania, Irlanda, Eslovenia, Bélgica, Eslovenia y Hungría.
Definición y alcance de la propuesta
La propuesta incluye todos los sistemas capaces de generar, manipular o reproducir imágenes, vídeos o audios realistas de partes íntimas o que identifiquen a personas en actividades sexuales sin el consentimiento expreso de la persona afectada.
La controversia con Grok llevó a Elon Musk, fundador de xAI, a restringir la creación de estas imágenes a usuarios de pago en X y a modificar las políticas de su IA. Sin embargo, Grok sigue permitiendo ciertos tipos de imágenes bajo ciertas condiciones. Sus políticas ahora prohíben generar imágenes de “personas reales en contextos que pudieran interpretarse como sexuales o inapropiados”.
Los criterios varían si la persona es famosa. Por ejemplo, el modelo de IA puede interpretar una foto de una actriz reconocida de manera diferente a una imagen de un grupo de mujeres en un estudio de radio. Esto se debe a que Grok permite “ediciones creativas” sobre figuras públicas en contextos mediáticos, pero prohíbe imágenes explícitamente sexuales de estas figuras.
Cambio en la regulación de la IA
El proceso legislativo que ha llevado a esta decisión se enmarca en un programa de simplificación de la normativa relacionada con la inteligencia artificial. Este ámbito requiere una adaptación constante debido a los avances casi semanales en la tecnología. Además, se prevé que los cambios en la regulación de la IA se complementen con nuevas normas digitales que afectan la regulación de datos, como el reglamento base que se implementó en 2018, conocido por sus siglas en inglés, GDPR.
Las autoridades del Ejecutivo comunitario explican que no se busca desregular, sino reducir cargas administrativas que afectan la competitividad de las empresas. Esta postura responde a la gran cantidad de normas establecidas en la legislatura anterior (2019-2024), pero los cambios se están extendiendo más allá de este contexto.
