Claude, el modelo de inteligencia artificial de Anthropic, lidera actualmente el 26 % del trabajo de investigación y desarrollo de la empresa, según su blog. Esta compañía, dirigida por Dario Amodei, es un claro ejemplo de cómo los sistemas informáticos están involucrados en el diseño y perfeccionamiento de sus sucesores.
A partir de agosto, Claude no opera de manera totalmente autónoma, sino que colabora con ingenieros humanos en más del 90 % de los proyectos. Esta colaboración se mantiene esencial para el desarrollo de la IA, donde se supervisa cada tarea por un experto en la materia.
A la vanguardia de la investigación
Claude ha alcanzado un nivel de capacidad que le permite realizar procesos complejos a partir de instrucciones generales. La compañía reporta que en su plataforma interna más utilizada había aproximadamente 30,000 agentes realizando tareas de investigación e ingeniería en un momento dado. Este avance es notable, ya que en marzo, su contribución a la investigación era de solamente un 1 %.
La compañía destaca el crecimiento exponencial en la potencia de los sistemas de IA, que han comenzado a automatizar su propio desarrollo. Sin embargo, Dario Amodei comentó sobre la importancia de la seguridad y la gestión del desarrollo de la IA.
Compromiso con la seguridad y la transparencia
Durante su intervención en Dreamforce, Amodei subrayó la necesidad de examinar el historial de seguridad de la empresa. Aseguró que, aunque no han tenido incidentes graves, reconocen que no son perfectos y están comprometidos a mejorar continuamente sus prácticas.
Además, propuso la creación de normas sectoriales que mejoren la seguridad y la transparencia. Resaltó la importancia de cerrar la brecha entre el conocimiento de los laboratorios y el público en general, enfatizando la necesidad de una apertura pública en el sector.
