Anthropic ha anunciado el desarrollo de una nueva herramienta de IA que puede identificar y explotar vulnerabilidades en internet con una eficacia superior a la de muchos expertos humanos. La compañía, liderada por Dario Amodei, ha señalado que esta herramienta es demasiado peligrosa para ser accesible al público general. En lugar de ello, se ha decidido limitar su uso a un selecto grupo de empresas en Estados Unidos, incluyendo gigantes como Apple, Microsoft y Amazon, para garantizar la seguridad del software, al que consideran crítico.
Características de la nueva IA
La herramienta, denominada Claude Mythos Preview, ha demostrado su capacidad al detectar miles de vulnerabilidades de alta gravedad en sistemas operativos y navegadores web en pocas semanas. Este avance ha suscitado preocupación entre gobiernos y empresas a nivel mundial, especialmente ante el riesgo de que caiga en manos de cibercriminales, quienes podrían utilizarla para perpetrar ataques más efectivos.
El Gobierno del Reino Unido está instando a las empresas a fortalecer sus sistemas de ciberseguridad por temor a una posible oleada de ciberataques tras el lanzamiento de Mythos. Por su parte, la Comisión Europea ha mantenido reuniones con Anthropic para evaluar las implicaciones de seguridad, aunque aún no ha obtenido acceso directo al modelo para su análisis.
Reacciones a nivel global
Joachim Nagel, jefe del Bundesbank, ha manifestado la necesidad de que todas las instituciones tengan acceso a esta tecnología para evitar desigualdades competitivas. En Estados Unidos, altas autoridades, incluyendo al secretario del Tesoro y al presidente de la Reserva Federal, han advertido a los líderes de grandes bancos sobre los riesgos que presenta el modelo.
La preocupación también se extiende a países como China y Rusia. Aunque las empresas chinas aún no cuentan con tecnología similar, se espera que desarrollen herramientas comparables en un futuro cercano. En Rusia, un medio afín al Kremlin ha calificado a Mythos como algo peor que una bomba atómica.
Implicaciones y preocupaciones sobre la seguridad
A pesar de que actualmente la tecnología de Anthropic está restringida a empresas estadounidenses y algunas británicas, se ha informado que usuarios no autorizados lograron acceder al modelo el mismo día de su anuncio. Según la agencia Bloomberg, estos usuarios han utilizado la IA para mejorar la seguridad, no para lanzar ataques.
Expertos en ciberseguridad advierten sobre el potencial de Mythos como un arma de doble filo. Aunque puede ser útil para detectar y resolver vulnerabilidades, también representa un riesgo significativo si es utilizada por actores maliciosos. Antonio Fernandes, un hacker ético, destaca que su impacto dependerá de quién la utilice.
David Sancho, investigador en ciberseguridad, señala que la herramienta podría ser devastadora en manos equivocadas. A pesar de la precaución de Anthropic, la posibilidad de que cibercriminales accedan a esta tecnología plantea serias preocupaciones sobre su uso futuro.
Hervé Lambert, de Panda Security, enfatiza que la tecnología es extremadamente peligrosa y que los cibercriminales probablemente intentarán aprovecharla. Josep Albors, de ESET, coincide en que, aunque no hay motivos para entrar en pánico, Mythos podría cambiar la forma en que se descubren y explotan vulnerabilidades.
