El CEO de Microsoft, Satya Nadella, ha expresado su preocupación por el rápido desarrollo de la inteligencia artificial. En un reciente comunicado, solicitó la implementación urgente de un sistema de supervisión estricto, así como un «botón de emergencia» que permita detener los modelos avanzados de IA durante su operación.
Nadella destacó la necesidad de repensar la arquitectura que sustenta el desarrollo de esta tecnología, señalando que los incidentes relacionados con la IA están ocurriendo con mayor frecuencia. Según él, las empresas han perdido el control sobre sus sistemas de IA, lo que plantea un riesgo significativo.
Riesgos y responsabilidades en el uso de IA
Tradicionalmente, los errores en los programas podían rastrearse hasta líneas de código específicas. Sin embargo, los actuales sistemas de superinteligencia dificultan asociar sus respuestas a datos de entrenamiento o configuraciones concretas. A pesar de esto, varias compañías están permitiendo que sus agentes de IA accedan a información sensible y deleguen tareas complejas.
Nadella argumenta que la industria debe aplicar a los modelos de IA los mismos protocolos de contención que se utilizan con empleados que manejan información confidencial. «No podemos subcontratar la responsabilidad de lo que la inteligencia hace en nuestro nombre», enfatizó en su declaración.
Propuestas para mejorar la supervisión de la IA
El CEO también se opone a tratar estos sistemas como cajas negras impenetrables. Pide la creación de controles independientes para auditar cada acción de la IA y la posibilidad de desconectarla en cualquier momento. «Debemos asumir que un modelo está comprometido y contenerlo desde el principio», indicó.
Finalmente, subrayó que «una persona autorizada siempre debería poder pausar o apagar un modelo en mitad de una tarea». Concluyó que el sistema de superinteligencia más confiable no será aquel en el que más confiemos, sino el que nos permita confiar menos en el modelo.
