En las últimas semanas, ha habido un enfrentamiento entre Dario Amodei, CEO de Anthropic, y el Secretario de Defensa, Pete Hegseth, sobre el uso militar de la inteligencia artificial (IA).
Anthropic se opone a que sus modelos de IA sean empleados para la vigilancia masiva de ciudadanos estadounidenses o para armas autónomas que operen sin intervención humana. En contraste, Hegseth argumenta que el Departamento de Defensa no debería estar limitado por las políticas de una empresa, afirmando que cualquier “uso legal” de la tecnología debería permitirse.
Las preocupaciones de Anthropic
Anthropic teme que su tecnología se utilice para fines que puedan comprometer la seguridad y la ética. La empresa sostiene que la IA presenta riesgos únicos y requiere salvaguardias específicas. Su principal inquietud es cómo mantener estas salvaguardias si la tecnología es utilizada por el ejército.
El ejército de EE. UU. ya emplea sistemas altamente automatizados, algunos de los cuales son letales. Aunque la decisión de usar fuerza letal ha pertenecido tradicionalmente a los humanos, existen pocas restricciones legales sobre el uso de armas autónomas. Según una directiva del DOD de 2023, los sistemas de IA pueden seleccionar y atacar objetivos sin intervención humana, siempre que cumplan ciertos estándares.
La postura del Pentágono
El argumento del Pentágono es que debería poder utilizar la tecnología de Anthropic para cualquier uso legal que considere necesario, sin estar limitado por las políticas internas de la empresa. Hegseth ha subrayado que el Departamento de Defensa no debería estar restringido por las reglas de un proveedor.
El portavoz del Pentágono, Sean Parnell, mencionó en un post de X que el departamento no tiene interés en realizar vigilancia masiva de ciudadanos ni en desplegar armas autónomas. “Lo que pedimos es simple: permitir que el Pentágono use el modelo de Anthropic para todos los fines legales”, dijo Parnell.
El futuro del conflicto
El Pentágono ha amenazado con declarar a Anthropic como un “riesgo de suministro”, lo que significaría que quedaría excluida de hacer negocios con el gobierno. Hegseth ha dado a Anthropic un plazo hasta el viernes para responder. Con el plazo en el horizonte, es incierto si el Pentágono cumplirá con su amenaza.
Este conflicto es crucial para ambas partes. Según Sachin Seth, un capitalista de riesgo en Trousdale Ventures, una etiqueta de riesgo de suministro podría significar el “fin” para Anthropic. Sin embargo, si la empresa es excluida del DoD, podría convertirse en un problema de seguridad nacional.
“El Departamento tendría que esperar de seis a doce meses para que OpenAI o xAI se pusieran al día”, advirtió Seth. “Eso deja un periodo de hasta un año en el que podrían estar utilizando un modelo que no es el mejor, sino el segundo o tercer mejor”.
