Google Gemini ha accedido a los sistemas protegidos de tres empresas, en lo que según The Wall Street Journal son los primeros hacks autónomos del modelo de IA.
De manera similar a la violación de Hugging Face por OpenAI, los hacks de Gemini se destacan no tanto por su sofisticación, sino porque fueron ejecutados por un modelo de IA. Estas brechas ocurrieron durante pruebas de ciberseguridad realizadas por una empresa llamada Irregular. En un caso, Gemini adivinó contraseñas para obtener acceso; en los otros dos, encontró credenciales en un repositorio público.
Notificación y controversia
Irregular notificó a Google sobre los hacks a finales de julio, aunque las empresas no confirmaron el hecho públicamente hasta el viernes, tras el contacto del WSJ. Google justificó que no había revelado los hacks anteriormente porque Gemini había “actuado de manera adecuada”, finalizando cada brecha tan pronto como se dio cuenta de que había hackeado una empresa real.
No obstante, Jack Cable, CEO de la empresa de seguridad AI Corridor, comentó al WSJ que Google está “intentando esconderse detrás de las normas establecidas para la divulgación de vulnerabilidades”, en lugar de reconocer que “los modelos están excediendo los límites de lo que deberían hacer, llevando a cabo ciberataques reales”.
