El gobierno español ha solicitado una investigación sobre las plataformas de redes sociales X, Meta y TikTok por su posible implicación en la producción y difusión de material de abuso sexual infantil generado por inteligencia artificial.
El primer ministro español, Pedro Sánchez, anunció que el Consejo de Ministros invocará el Artículo 8 del Estatuto Orgánico del Ministerio Fiscal para que se investiguen los delitos que podrían estar cometiendo estas empresas mediante la creación y diseminación de pornografía infantil a través de su inteligencia artificial. Sánchez acusó a estas plataformas de “atacar la salud mental, la dignidad y los derechos de nuestros hijos”, subrayando que “la impunidad de los gigantes debe terminar”.
Esta solicitud se produce en un contexto de endurecimiento de las regulaciones sobre redes sociales en España. Durante su intervención en la Cumbre Mundial de Gobiernos en Dubái, Sánchez anunció planes para prohibir las redes sociales a menores de 16 años, entre otras medidas dirigidas a estas plataformas. Esta propuesta, que aún debe recibir la aprobación parlamentaria, sigue el ejemplo de Australia, el primer país en implementar tal prohibición.
En este sentido, Francia y Dinamarca también han comenzado a considerar medidas similares.
Críticas a las grandes tecnológicas
Sánchez criticó a los gigantes tecnológicos por no censurar ni siquiera generar contenido sexual ilegal y calificó a las redes sociales como “un estado fallido” donde las leyes son ignoradas, y donde la desinformación prevalece sobre la verdad.
El multimillonario Elon Musk, propietario de X, calificó los esfuerzos para prohibir las redes sociales a usuarios menores de edad como “una locura” y describió a Sánchez como “un tirano y traidor al pueblo español” tras sus comentarios en Dubái.
Meta no ha comentado sobre la solicitud de Sánchez para investigar a las empresas, pero afirmó que sus herramientas de inteligencia artificial están diseñadas para no aceptar solicitudes de generación de imágenes desnudas. Además, la compañía prohíbe aplicaciones que crean imágenes explícitas de individuos y tiene políticas estrictas contra la explotación infantil.
Por su parte, un portavoz de TikTok declaró que el material de abuso sexual infantil es “abominable y categóricamente prohibido” en su plataforma, asegurando que tienen sistemas robustos para prevenir intentos de explotación o daño a jóvenes.
Investigaciones en curso en Europa
Recientemente, otros países europeos han iniciado investigaciones similares sobre X y su chatbot Grok, que ha enfrentado un aumento en el escrutinio por la proliferación de imágenes sexualizadas generadas por inteligencia artificial.
La Comisión de Protección de Datos de Irlanda anunció que ha abierto una investigación formal sobre X por el uso aparente de datos personales, incluidos los de menores, para producir imágenes íntimas no consensuadas. X tiene su sede europea en Dublín, lo que hace que esta comisión actúe como el organismo supervisor principal en la Unión Europea.
La Comisión Europea también abrió una investigación sobre Grok el 26 de enero, en relación con la posible difusión de contenido sexualizado ilegal.
El mes anterior, la UE multó a X con aproximadamente 120 millones de euros por violaciones a la Ley de Servicios Digitales, que exige a las empresas regular contenido ilícito y desinformación en sus plataformas.
Acciones en Francia y el Reino Unido
El 3 de febrero, autoridades francesas llevaron a cabo una redada en las oficinas de X en París, en el marco de otra investigación en curso relacionada con el contenido generado por Grok. Musk y la ex CEO de X, Linda Yaccarino, han sido convocados para “entrevistas voluntarias” en esta investigación.
X criticó la redada, calificándola de “investigación criminal politizada” y negando cualquier irregularidad. En respuesta a la redada, la Oficina del Comisionado de Información del Reino Unido también anunció una investigación formal sobre X y xAI por el procesamiento de datos personales en relación con el sistema de inteligencia artificial Grok.
El 12 de enero, Ofcom, el organismo independiente de seguridad en línea del Reino Unido, había abierto su propia investigación sobre X tras reportes de que Grok estaba siendo utilizado para crear y compartir imágenes desnudas de personas, lo que podría constituir abuso de imágenes íntimas o pornografía.
A diferencia de X, TikTok y Meta no han enfrentado el mismo nivel de escrutinio oficial en relación con imágenes generadas por inteligencia artificial, aunque ambos han sido criticados por la UE por otros asuntos recientes.
