Las advertencias sobre los peligros de la inteligencia artificial han aumentado en la comunidad de investigadores. Recientemente, Sam Altman, CEO de OpenAI, sugirió que podría ser el momento de «moderarse» en el desarrollo de esta tecnología.
En un nuevo artículo de blog, Dario Amodei, CEO de Anthropic, no solo apoyó esta idea, sino que también presentó tres estrategias amplias para lograrlo. Además, anunció que Anthropic se compromete unilateralmente a implementar una de estas estrategias, con Altman asegurando que OpenAI hará lo mismo.
Estrategias para una IA más segura
El debate sobre la seguridad y alineación de la IA se intensificó cuando Jacob Coxon, un investigador de Anthropic, renunció. Sus preocupaciones se centraron en que las empresas de IA están «apostando con nuestras vidas» y que podrían causar un daño significativo en la próxima década.
Amodei no mencionó específicamente la renuncia de Coxon, pero destacó dos razones que lo llevaron a abogar por un enfoque más cauteloso en el desarrollo de IA: un reciente hackeo de OpenAI-HuggingFace y el rápido avance de la inteligencia artificial en meses recientes.
Compromisos y regulación
“Debemos ralentizar el ritmo de mejora de las capacidades de los modelos de IA”, escribió Amodei. Aseguró que el progreso seguirá pareciendo veloz y que debemos aprovechar sabiamente el tiempo adicional que ganamos.
Otros ejecutivos de IA han respondido positivamente al artículo de Amodei. Altman comentó que está de acuerdo con Amodei en que es necesario moderar el avance de la tecnología. El CEO de SpaceX, Elon Musk, también expresó su apoyo a esta iniciativa.
Amodei propuso como primer paso la incorporación de evaluadores independientes de organizaciones como METR. Estos evaluadores verificarían que las empresas de IA cumplan con sus compromisos de seguridad. Esto es fundamental, especialmente tras críticas a OpenAI por no informar sobre un incidente reciente.
Coordinación global y desafíos
Amodei hizo un llamado para que las principales empresas de IA en países democráticos coordinen estándares de seguridad y límites a la expansión no controlada de la IA.
Sin embargo, esta coordinación podría ser difícil. Las empresas temen que una pausa coordinada desencadene un escrutinio antimonopolio. Amodei sugirió que el gobierno de EE. UU. podría facilitar estas discusiones sin participar directamente.
Además, abordó el tema de la posible dominación de la IA china, argumentando que si el gobierno de EE. UU. y las empresas tecnológicas toman medidas restrictivas, podrían ralentizar el progreso de China y ampliar la ventaja de EE. UU. en los próximos años.
Un futuro coordinado
Finalmente, Amodei abogó por una coordinación global, donde EE. UU. y sus aliados trabajen con gobiernos autoritarios. Reconoció que hay límites claros a lo que se puede lograr, pero destacó la posibilidad de acuerdos básicos para prohibir usos peligrosos de la IA.
Amodei concluyó que sigue creyendo en el potencial de la IA para mejorar la calidad de vida humana. Su deseo de alcanzar estos beneficios permanece intacto, pero enfatiza que solo se lograrán si se desarrolla la tecnología de manera adecuada.
Este artículo ha sido actualizado con comentarios de Sam Altman y Elon Musk.
Cuando compras a través de los enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
