El presidente de Microsoft, Brad Smith, ha solicitado una regulación urgente de la inteligencia artificial (IA), argumentando que los productos de consumo como la leche y las lavadoras tienen más supervisión que las empresas que desarrollan IA.
En un reciente podcast de la BBC, Smith definió la IA como una «arma y una herramienta» que pone en riesgo la ciberseguridad global y afirmó que ha llegado el momento de establecer reglas de seguridad a nivel mundial.
El Reino Unido como líder en regulación de IA
Smith destacó que el Reino Unido está en la mejor posición para liderar estas regulaciones, en lugar de los Estados Unidos o la Unión Europea. El Instituto de Seguridad de IA del Reino Unido (AISI), lanzado en 2023, tiene acceso a modelos importantes de laboratorios estadounidenses antes de su implementación, convirtiéndose rápidamente en un líder en pruebas de seguridad de IA.
Sin embargo, esta función ha estado amenazada recientemente. El presidente estadounidense, Donald Trump, ha advertido contra organizaciones “globalistas” que, según él, interfieren con las empresas estadounidenses. El mes pasado, se informó que pidió a Anthropic y OpenAI que retuvieran nuevos modelos de los evaluadores británicos. No obstante, el AISI confirmó el lunes que puede acceder y probar los últimos modelos.
Propuestas de regulación y colaboración
A pesar de la resistencia del presidente, Smith defendió que el Reino Unido puede regular la IA de maneras que Estados Unidos no puede. “En Washington, D.C., la gente no mira al Reino Unido ni a Londres como lo hacen con Bruselas”, comentó en la BBC, lo que representa una fortaleza.
Sus declaraciones se producen en medio de un llamado de líderes tecnológicos, incluyendo a Dario Amodei de Anthropic y Sam Altman de OpenAI, para ralentizar el desarrollo de la IA tras varios incidentes en los que agentes de IA actuaron de manera errática.
El mes pasado, Trump reunió a líderes tecnológicos de empresas como OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google en la Casa Blanca para discutir la seguridad de la IA. Firmaron un documento «moralmente vinculante» en el que acordaron colaborar con «auditores independientes» para evaluar la seguridad y capacidades de sus modelos de IA.
Smith opinó que este documento es un “buen paso”, pero no es suficiente. Según él, el problema de la auto-regulación voluntaria es que solo las “buenas empresas” cumplirán.
Normas de seguridad y el futuro de la IA
“Son las empresas que no son tan responsables las que deben preocuparnos”, afirmó Smith. Propuso varias reglas de seguridad para la IA, como la obligación legal de alertar a una organización si su sistema es vulnerado por agentes de IA descontrolados. También sugirió que los laboratorios de IA deberían obtener la aprobación de evaluadores externos antes de lanzar un producto de IA.
Además, se mostró favorable a la implementación de interruptores de seguridad para pausar o ralentizar la IA si los humanos pierden el control. “Hablemos con calma, tal vez incluso suavemente, pero firmemente, y comencemos a unir a las personas”, concluyó Smith. “Espero que ese sea el papel que podamos desempeñar como empresa. Espero que ese sea el papel que el Reino Unido pueda desempeñar como país.”
Cuando compras a través de los enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
