Anthropic ha construido su identidad pública en torno a la idea de ser una empresa de IA cuidadosa. Publica investigaciones detalladas sobre los riesgos de la IA, cuenta con algunos de los mejores investigadores del campo y ha sido muy vocal sobre las responsabilidades que conlleva desarrollar tecnología tan poderosa. Sin embargo, recientemente se ha visto involucrada en un incidente con el Departamento de Defensa.
Este es el segundo error que ocurre en una semana. La semana pasada, Fortune informó que Anthropic había publicado accidentalmente casi 3,000 archivos internos, incluyendo un borrador de una publicación que describía un modelo poderoso aún no anunciado.
Incidente del 2.1.88 de Claude Code
El martes, al lanzar la versión 2.1.88 de su paquete de software Claude Code, Anthropic incluyó por error un archivo que expuso casi 2,000 archivos de código fuente y más de 512,000 líneas de código. Esto representa, esencialmente, el plano arquitectónico completo de uno de sus productos más importantes. Un investigador de seguridad, Chaofan Shou, lo notó casi de inmediato y lo compartió en X.
La respuesta de Anthropic fue tranquila, indicando que “esto fue un problema de empaquetado de lanzamiento causado por error humano, no una violación de seguridad.” Se puede suponer que, internamente, la situación fue menos medida.
Impacto del producto Claude Code
Claude Code no es un producto menor. Es una herramienta de línea de comandos que permite a los desarrolladores utilizar la IA de Anthropic para escribir y editar código, y ha llegado a ser lo suficientemente formidable como para inquietar a sus rivales. Según el WSJ, OpenAI decidió retirar su producto de generación de video Sora solo seis meses después de su lanzamiento, en parte como respuesta al creciente impulso de Claude Code.
Lo que se filtró no fue el modelo de IA en sí, sino la estructura de software que lo rodea, que incluye instrucciones sobre cómo debe comportarse el modelo, qué herramientas utilizar y cuáles son sus límites. Los desarrolladores comenzaron a publicar análisis detallados, describiendo el producto como una “experiencia de desarrollador de grado de producción, no solo una interfaz alrededor de una API.”
Reflexiones finales sobre el incidente
Si esto tendrá alguna repercusión a largo plazo queda en manos de los desarrolladores. Los competidores podrían encontrar la arquitectura instructiva, aunque el campo avanza rápidamente.
En cualquier caso, en algún lugar de Anthropic, es fácil imaginar que un ingeniero talentoso se pregunta si aún tiene su empleo. Esperemos que no sea el mismo ingeniero, o el mismo equipo de ingeniería, que estuvo involucrado en el incidente de la semana pasada.
