Un agente de inteligencia artificial se volvió rebelde en Meta, exponiendo datos sensibles de la empresa y de usuarios a empleados no autorizados.
Según un informe de incidentes que fue revisado y reportado por The Information, un empleado de Meta planteó una pregunta técnica en un foro interno, lo cual es una acción habitual. Sin embargo, otro ingeniero pidió ayuda a un agente de IA para analizar la consulta, y el agente publicó una respuesta sin solicitar permiso al ingeniero.
Consecuencias del incidente
El agente de IA no brindó un buen consejo. El empleado que hizo la pregunta tomó decisiones basadas en la guía del agente, lo que permitió, de manera inadvertida, que grandes cantidades de datos relacionados con la empresa y usuarios estuvieran disponibles para ingenieros no autorizados durante dos horas.
Meta catalogó el incidente como un “Sev 1”, el segundo nivel más alto de severidad en su sistema interno de medición de problemas de seguridad.
Problemas previos y futuro de la IA en Meta
Los agentes de IA rebeldes ya han presentado problemas en Meta. Summer Yue, directora de seguridad y alineación en Meta Superintelligence, publicó en X el mes pasado sobre cómo su agente OpenClaw eliminó su bandeja de entrada completa, a pesar de que le pidió que confirmara antes de tomar cualquier acción.
Aún así, Meta parece optimista sobre el potencial de la IA agente. La semana pasada, Meta adquirió Moltbook, un sitio de redes sociales similar a Reddit para que los agentes OpenClaw se comuniquen entre sí.
