La Comisión Europea ha iniciado una investigación hacia X, la red social de Elon Musk, debido al uso reciente de Grok, una herramienta de inteligencia artificial. Esta aplicación ha sido utilizada para generar millones de imágenes sexuales, afectando tanto a adultos como a menores de edad.
Expertos han señalado que esta actividad infringe la normativa europea. Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica de la UE, declaró que las ‘deepfakes’ sexuales son una forma inaceptable de degradación. La investigación determinará si X cumplió con sus obligaciones legales bajo la Ley de Servicios Digitales (DSA).
Investigación sobre los riesgos de Grok
La UE examinará si X evaluó y mitigó adecuadamente los riesgos asociados con Grok al momento de su lanzamiento. Esto incluye el potencial uso de la herramienta para crear contenido ilegal, como imágenes sexualmente explícitas, sobre las cuales ya ha habido informes de abuso.
Un estudio reciente indica que entre el 29 de diciembre y el 8 de enero, Grok generó 3 millones de imágenes sexualizadas a partir de fotografías reales, de las cuales 23.000 eran de niños. Aunque se anunciaron medidas para prevenir la creación de este tipo de contenido, se ha comprobado que aún es posible eludir las nuevas restricciones.
Aumento del escrutinio sobre X
Con esta investigación, la Comisión Europea incrementa su vigilancia sobre X. Desde 2023, la Comisión ha estado examinando si el sistema de recomendación de contenido de la aplicación cumple con la normativa vigente. Además, X enfrentó una multa de 120 millones de euros por infringir la DSA en diciembre pasado.
La Comisión también advirtió que podría imponer medidas provisionales si se detectan riesgos en Grok y X antes de finalizar la investigación. Esto incluye la posibilidad de suspender funcionalidades de Grok o exigir cambios urgentes en sus filtros de seguridad.
Consecuencias de la infracción de la DSA
Según Handelsblatt, la UE planeaba iniciar este procedimiento la semana pasada, pero decidió retrasarlo debido a negociaciones sobre nuevos aranceles a Estados Unidos. Infringir la DSA puede resultar en multas de hasta el 6% de los ingresos anuales de la empresa, y la reincidencia podría llevar al bloqueo del servicio en toda Europa.
