Satya Nadella, CEO de Microsoft, ha establecido un límite claro en el desarrollo de la inteligencia artificial avanzada. Afirma que «cualquier iniciativa encaminada a la superinteligencia debe basarse en el principio fundamental de que, si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena llevarla a cabo».
Este pronunciamiento se realizó en su perfil de X, donde también llamó a la seguridad y a la distribución democrática del poder tecnológico. Otros líderes en el sector, como Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk de SpaceXAI, han mostrado su deseo de ralentizar el desarrollo de la IA, citando preocupaciones sobre la pérdida de control.
Necesidad de un control externo para la IA
Nadella enfatizó que la gobernanza de la superinteligencia no debe estar en manos de unos pocos actores corporativos. Propuso incluir a gobiernos, universidades y comunidades científicas para asegurar un proceso de decisión representativo e inclusivo.
Además, respaldó soluciones técnicas como los «evaluadores integrados», herramientas que pueden verificar continuamente que se cumplen los principios de seguridad. «Debemos acelerar y difundir los beneficios de la IA», añadió Nadella, enfatizando la importancia de un ecosistema que permita prosperar tanto modelos cerrados como de código abierto.
Autonomía y representación en el ecosistema de IA
Nadella también destacó la necesidad de proteger la autonomía operativa de las empresas frente a los grandes proveedores de tecnología. Advirtió sobre el riesgo de dependencia de una única plataforma de IA y propuso que cada organización debería poder crear su propio ciclo de aprendizaje continuo.
«La clave es que esto no puede estar controlado por un puñado de entidades, sino que debe contar con una amplia representación en todo el ecosistema», afirmó. Como parte de esta visión, Microsoft presentará un Código de Conducta que fundamenta sus modelos de IA, buscando ofrecer libertad de elección y control a las organizaciones.
