Se lanza The Anthropic Institute, una iniciativa para abordar los retos más significativos que la inteligencia artificial (IA) poderosa plantea en nuestras sociedades. Este instituto se basará en la investigación de Anthropic para ofrecer información útil a investigadores y al público en general, facilitando la transición hacia un mundo con sistemas de IA más potentes.
En los cinco años desde la creación de Anthropic, el avance de la IA ha sido vertiginoso. Pasamos dos años para lanzar nuestro primer modelo comercial, y solo tres años más para desarrollar modelos capaces de detectar vulnerabilidades en ciberseguridad, realizar diversas tareas y hasta acelerar el desarrollo de IA.
Expectativas para el futuro de la IA
Prevemos que en los próximos dos años habrá avances aún más dramáticos. Una de nuestras convicciones fundamentales es que el desarrollo de la IA está acelerándose, y las mejoras que realizamos se acumulan con el tiempo. Por lo tanto, la llegada de IA extremadamente poderosa, como la que describe nuestro CEO Dario Amodei en Machines of Loving Grace, se producirá mucho antes de lo que muchos piensan.
Si esto es correcto, la sociedad tendrá que enfrentar desafíos masivos en poco tiempo. ¿Cómo transformarán los sistemas de IA poderosos nuestros empleos y economías? ¿Qué oportunidades de mayor resiliencia social nos ofrecerán? ¿Qué amenazas podrán amplificar o introducir? Además, ¿cómo se determinarán los “valores” expresados por los sistemas de IA y cómo ayudará la sociedad a las empresas a establecer esos valores?
Objetivos y estructura del Instituto
El objetivo del Anthropic Institute es compartir lo que aprendemos sobre estos desafíos mientras construimos sistemas de IA de frontera, y colaborar con audiencias externas para afrontar los riesgos que debemos enfrentar. La capacidad de nuestras sociedades para lograrlo determinará si la IA transformadora brinda los beneficios radicales que creemos posibles en ciencia, desarrollo económico y agencia humana.
El Instituto será liderado por nuestro cofundador Jack Clark, quien asumirá el nuevo cargo de Jefe de Beneficio Público en Anthropic. Contará con un equipo interdisciplinario de ingenieros de aprendizaje automático, economistas y científicos sociales, combinando y ampliando tres equipos de investigación de Anthropic: el Frontier Red Team, que pone a prueba los sistemas de IA; Societal Impacts, que investiga el uso de la IA en el mundo real; y Economic Research, que analiza su impacto en empleos y la economía en general.
Nuevas incorporaciones y oportunidades laborales
El Instituto ha realizado varias contrataciones iniciales:
- Matt Botvinick, antiguo Director de Investigación en Google DeepMind, liderará el trabajo sobre IA y el estado de derecho.
- Anton Korinek, profesor de economía, se unirá al equipo de Investigación Económica para estudiar cómo la IA transformadora podría cambiar la naturaleza de la actividad económica.
- Zoë Hitzig, quien analizó los impactos sociales y económicos de la IA, unirá su trabajo de economía con el desarrollo de modelos.
Además, estamos contratando. El Anthropic Institute está formando un pequeño equipo analítico que unirá diversas partes de nuestra agenda de investigación y comunicará nuestro trabajo al mundo. Puedes leer más aquí.
Expansión del equipo de Políticas Públicas de Anthropic
Junto al lanzamiento del Anthropic Institute, estamos ampliando nuestra organización de Políticas Públicas.
Este equipo se enfoca en áreas donde Anthropic ha definido prioridades y perspectivas, incluyendo la seguridad y transparencia de modelos, protecciones para los consumidores de energía, inversiones en infraestructura, controles de exportación y liderazgo democrático en IA. Sarah Heck, que se unió a Anthropic como Jefa de Asuntos Externos, liderará este equipo como Jefa de Políticas Públicas.
Estamos fortaleciendo nuestro equipo de Políticas Públicas para ayudar a informar y dar forma a la gobernanza de la IA en todo el mundo. Abriremos nuestra primera oficina en DC esta primavera y estamos expandiendo rápidamente nuestra presencia global en políticas. Puedes ver nuestras vacantes actuales aquí.
