Tres adolescentes estadounidenses, entre ellas dos menores, han presentado una demanda contra xAI. Acusan a la compañía de utilizar Grok para generar imágenes y vídeos manipulados mediante inteligencia artificial, haciendo que las fotografías de las jóvenes aparezcan desnudas. Además, sostienen que la empresa, propiedad de Elon Musk, desarrolló el chatbot sin implementar las medidas de seguridad necesarias para prevenir su explotación en la creación de contenido pedófilo.
Detalles de la demanda
Esta es la primera demanda que enfrenta la compañía tras la polémica surgida en diciembre, cuando se reportó que el sistema de IA había sido usado para generar imágenes sexuales de miles de personas, incluidas menores.
Según la denuncia presentada este lunes ante el Tribunal del Distrito del Norte de California, dos de las demandantes son menores y la tercera lo era en el momento de la utilización de su imagen. Una de ellas, conocida como ‘Jane Doe 1’, descubrió en diciembre que varios contenidos manipulados con IA, que incluían su imagen y la de otras 18 adolescentes, estaban siendo compartidos en Discord.
Impacto en las víctimas
La joven se sintió perturbada al ver contenido sexualmente explícito que la mostraba en situaciones familiares, pero alteradas para aparecer en poses sexuales. Las imágenes incluían su cuerpo sin ropa, y un vídeo mostraba su desnudez total.
El contenido fue creado por una única persona que mantenía una relación de confianza con algunas de las víctimas. Esta persona no solo compartió el contenido en Discord, sino que también lo intercambió en grupos de Telegram. El sospechoso fue detenido a finales de diciembre de 2025 y su teléfono fue confiscado durante la investigación.
Reclamaciones y consecuencias
Las víctimas afirman haber sufrido graves daños psicológicos, incluyendo ansiedad y estrés, y temen que este material afecte su vida académica y social. Por lo tanto, reclaman a xAI una indemnización y que la empresa sea responsable por permitir la creación de este tipo de contenido. La demanda se presenta como una acción colectiva para representar a otras posibles víctimas.
El uso de Grok para crear contenido sexual ha generado múltiples problemas a xAI. En enero, el Reino Unido amenazó con prohibir el sistema de IA, y la Comisión Europea abrió una investigación que podría resultar en una multa del 6% de los ingresos anuales de la empresa. Recientemente, los países miembros acordaron prohibir plataformas que permitan la creación de imágenes sexualizadas sin consentimiento.
Un estudio del Centro para la Lucha contra el Odio Digital reveló que Grok fue utilizado entre el 29 de diciembre y el 8 de enero para crear 3 millones de imágenes sexualizadas a partir de fotografías reales, de las cuales 23,000 pertenecían a niños.
xAI anunció que había bloqueado la posibilidad de editar imágenes de personas reales para que aparecieran con ropa reveladora. Sin embargo, se comprobó que aún era posible utilizar la herramienta para generar contenido explícito en algunas jurisdicciones.
