La empresa de inteligencia artificial Anthropic ha desarrollado la herramienta generativa más potente del mercado, conocida como Claude Mythos Preview. Actualmente, la compañía no tiene planes de ofrecerla al público debido a su potencial peligro.
Este software se utiliza para identificar y corregir vulnerabilidades de seguridad en programas críticos, siendo empleado por un grupo selecto de aproximadamente 40 empresas, incluyendo Apple, Amazon, Google, Nvidia y Microsoft.
Riesgos y preocupaciones
Dirigida por Dario Amodei, Anthropic sostiene que su herramienta puede superar a los expertos en la detección de vulnerabilidades, lo que podría representar un riesgo significativo si cayera en manos de un grupo cibercriminal.
La empresa advierte que, dado el rápido avance de la inteligencia artificial, no pasará mucho tiempo antes de que estas capacidades se difundan, lo que podría tener consecuencias serias para la economía y la seguridad pública.
Hallazgos de vulnerabilidades
Claude Mythos Preview ya ha identificado miles de vulnerabilidades «de alta gravedad», incluyendo algunas en sistemas operativos y navegadores destacados. Por ejemplo, se detectó un fallo de seguridad de 27 años en OpenBSD, conocido por ser uno de los sistemas más seguros.
Además, la IA localizó varias vulnerabilidades en el núcleo de Linux, que es el software de código abierto utilizado en la mayoría de los servidores a nivel mundial. Estas vulnerabilidades permitirían a un cibercriminal ascender de un acceso básico a un control total del sistema.
Reacciones en el ámbito financiero
La herramienta ha suscitado inquietud más allá de Anthropic. Según el ‘Financial Times‘, reguladores financieros británicos están en conversaciones con la agencia de ciberseguridad del Reino Unido y bancos importantes para evaluar los riesgos asociados a Claude Mythos Preview.
En Estados Unidos, el secretario del Tesoro, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, han convocado a ejecutivos bancarios para fomentar el uso de esta herramienta, algo que ya están haciendo algunas entidades como JP Morgan Chase. Este interés es notable, considerando que Anthropic se encuentra en la lista negra del gobierno norteamericano por negarse a colaborar con el Pentágono en el desarrollo de armamento autónomo.
