Tres adolescentes estadounidenses han presentado una demanda contra xAI por el presunto uso de Grok para generar imágenes y vídeos manipulados mediante inteligencia artificial, haciendo que aparezcan desnudas. Acusan a la empresa de Elon Musk de desarrollar el chatbot sin las medidas de seguridad necesarias para prevenir este tipo de explotación.
Contexto de la demanda
Esta es la primera demanda que enfrenta la compañía tras la polémica del pasado diciembre, cuando se denunció que el sistema de IA había sido utilizado para crear imágenes sexuales de miles de personas, incluidas menores.
La demanda, presentada ante el Tribunal del Distrito del Norte de California, incluye a dos menores y una mujer que era menor al momento de la utilización de su imagen. Una de las demandantes, identificada como ‘Jane Doe 1’, se enteró de la situación a principios de diciembre, tras recibir un aviso anónimo en Instagram sobre imágenes y vídeos manipulados que estaban siendo compartidos en Discord.
Impacto en las víctimas
Las víctimas afirman que estos hechos les han causado graves daños psicológicos, como ansiedad y temor a que el material afecte su vida académica y social. Por ello, buscan una indemnización de xAI y que se declare responsable a la compañía por permitir la creación de este contenido. Además, esperan que se implementen medidas de seguridad más estrictas para prevenir futuros abusos.
El uso de Grok para crear contenido sexual ha generado múltiples problemas a xAI. En enero, la Comisión Europea abrió una investigación por permitir la generación de millones de imágenes sexuales de personas, incluidos menores. Un análisis de AI Forensics reveló que más de la mitad de las imágenes generadas mostraban personas con poca ropa, siendo el 81% mujeres y el 2% menores.
xAI anunció que había bloqueado la posibilidad de editar imágenes de personas reales para que aparecieran con ropa reveladora y comenzó a restringir la generación de imágenes explícitas en jurisdicciones donde es ilegal.
