El CEO de Hugging Face, Clem Delangue, ha solicitado una “transparencia radical” tras un incidente en el que un modelo de OpenAI comprometió los sistemas de la plataforma Hugging Face. Delangue anunció en X que viajaría a San Francisco para dialogar sobre el tema con el ‘agente rebelde’.
En una publicación posterior, Delangue detalló sus peticiones a OpenAI. Enfatizó la necesidad de liberar los rastros de los agentes involucrados para que toda la comunidad de investigación pueda analizar lo ocurrido.
Demandas de Hugging Face
Además, Delangue solicitó que OpenAI destine 100 millones de dólares en poder computacional para ayudar a la comunidad de Hugging Face a desarrollar defensas cibernéticas efectivas utilizando los mejores modelos disponibles, tanto abiertos como cerrados. Según él, “el primer ciberataque de un agente autónomo es un evento sin precedentes”, lo que requiere una respuesta igualmente sin precedentes.
A pesar de la naturaleza autónoma del ataque, expertos en ciberseguridad han sugerido que también podría deberse a un error humano, específicamente a la aparente falta de OpenAI en configurar adecuadamente un entorno de pruebas aislado.
Reacciones de OpenAI
Al ser consultado sobre los comentarios de Delangue, un portavoz de OpenAI confirmó que la reunión se llevó a cabo y señaló una publicación de la compañía que describió el incidente como “sin precedentes”. Asimismo, mencionó que se está realizando una revisión exhaustiva junto con asesores externos y bajo la supervisión de su Comité de Seguridad y Protección. Una vez concluida la revisión, OpenAI planea publicar un informe técnico con sus aprendizajes en las próximas semanas.
Esta publicación ha sido actualizada con un comentario de OpenAI.
