La senadora Elizabeth Warren (D-MA) envió una carta al secretario de Defensa Pete Hegseth, mostrando su preocupación por la decisión del Pentágono de otorgar acceso a redes clasificadas a la empresa xAI de Elon Musk.
En la carta, Warren señala que Grok, el modelo de IA controvertido desarrollado por xAI, ha generado salidas alarmantes para los usuarios, como ofrecer “consejos sobre cómo cometer asesinatos y ataques terroristas”, así como crear contenido antisemita y material de abuso sexual infantil.
Preocupaciones sobre la seguridad
Warren expresó que la “aparente falta de guardrails adecuados” de Grok podría representar “graves riesgos para la seguridad del personal militar de EE. UU. y la ciberseguridad de los sistemas clasificados”. Además, solicitó a Hegseth información sobre cómo el Departamento de Defensa planea “mitigar estos riesgos potenciales para la seguridad nacional”.
No es la primera vez que se manifiestan preocupaciones sobre Grok, el chatbot de xAI. El mes pasado, una coalición de organizaciones sin fines de lucro instó al gobierno a suspender inmediatamente el uso de Grok en agencias federales, incluido el DoD, tras incidentes en los que usuarios impulsaron al chatbot a crear imágenes sexualizadas de mujeres y menores sin su consentimiento.
Acciones legales y decisiones del Pentágono
El mismo día en que Warren envió su carta, se presentó una demanda colectiva contra xAI, alegando que Grok había generado contenido sexual a partir de imágenes reales de las demandantes cuando eran menores. Esta carta se produce tras la decisión del Pentágono de calificar a Anthropic como un riesgo de cadena de suministro, luego de que la firma de IA se negase a otorgar acceso irrestricto a sus sistemas.
Un alto funcionario del Pentágono confirmó que Grok fue incorporado para ser utilizado en un entorno clasificado, pero aún no está en uso. Warren cuestiona las garantías proporcionadas por xAI sobre las salvaguardias de seguridad y las prácticas de manejo de datos de Grok, así como si el DoD ha evaluado esas garantías antes de permitir el acceso a sistemas clasificados.
Demandas de transparencia
Warren solicitó una copia del acuerdo alcanzado entre el DoD y xAI sobre el uso de Grok en sistemas clasificados, así como una explicación de cómo el departamento planea asegurar que Grok no sea vulnerable a ciberataques y no filtre información sensible o clasificada.
Recientemente, un ex empleado del Departamento de Eficiencia Gubernamental de Musk fue acusado de robar datos personales de estadounidenses de la Administración del Seguro Social. Este incidente se suma a las acusaciones de filtraciones de datos relacionadas con DOGE.
El portavoz principal del Pentágono, Sean Parnell, indicó que el departamento “espera desplegar Grok en su plataforma oficial de IA GenAI.mil en un futuro cercano”.
GenAI.mil es la plataforma segura del ejército para IA generativa, diseñada para ayudar en tareas no clasificadas como investigación, redacción de documentos y análisis de datos.
