Anthropic ha decidido donar $20 millones a Public First Action, una nueva organización bipartidista. Este apoyo busca fomentar la educación pública sobre la inteligencia artificial (IA) y promover la creación de salvaguardias.
La IA traerá enormes beneficios en diversos campos como la ciencia, la tecnología o la medicina. Sin embargo, también conlleva riesgos considerables. Estos riesgos pueden surgir del uso indebido de los modelos, ya que la IA se está utilizando para automatizar ciberataques y podría ayudar en la producción de armas peligrosas.
Riesgos de la Inteligencia Artificial
Además, los sistemas de IA pueden realizar acciones dañinas que escapan al control de sus usuarios. En la actualidad, la evolución de estos modelos es vertiginosa, desde simples chatbots hasta agentes que completan tareas complejas.
En Anthropic, hemos tenido que redefinir pruebas técnicas para la contratación de ingenieros de software, pues los modelos de IA superan cada versión. Este avance no solo afecta la ingeniería de software, sino que ya está impactando a muchas otras profesiones.
La necesidad de una buena regulación
Las decisiones políticas sobre IA que tomemos en los próximos años influirán en casi todos los aspectos de la vida pública. Por tanto, es vital contar con regulaciones flexibles que nos permitan aprovechar los beneficios de la IA y controlar sus riesgos.
La organización Public First Action trabaja para asegurar que Estados Unidos lidere en la carrera de la IA, promoviendo políticas que aseguren la transparencia y la responsabilidad de las empresas que desarrollan modelos de IA.
Políticas bipartidistas en IA
Los sondeos recientes indican que el 69% de los estadounidenses considera que el gobierno no está haciendo lo suficiente para regular el uso de la IA. Esta situación exige la movilización de personas y políticos que entiendan lo que está en juego en el desarrollo de la IA.
Public First Action busca llenar este vacío, trabajando con estrategas de ambos partidos para apoyar políticas de gobernanza de la IA. Sus prioridades incluyen exigir la transparencia de los modelos de IA y apoyar un marco robusto de gobernanza federal.
