Los laboratorios de inteligencia artificial ven una oportunidad comercial en la ciberseguridad, mientras aumenta el uso de estas herramientas por parte de ciberdelincuentes. El caso de Corea del Norte y el robo de criptomonedas a Binance ilustran el riesgo.
Según Chainalysis, los ciberdelincuentes norcoreanos robaron criptomonedas por valor de 2.000 millones de dólares el año pasado, el triple que dos años antes. La firma espera que el botín de este año sea mayor. El 29 de octubre se sustrajeron 6.300 millones de dólares de Binance; el FBI señaló a Corea del Norte. Binance afirmó que los atacantes accedieron mediante el portátil de uno de sus ingenieros, aunque los detalles del incidente no están claros.
La IA abre una oportunidad para el sector
Los avances en IA han dado a los ciberdelincuentes nuevas herramientas para crear malware, ejecutar campañas de phishing y buscar vulnerabilidades en programas. Sin embargo, esa misma capacidad puede ayudar a las empresas a reforzar sus defensas.
Sarah Friar, directora financiera de OpenAI, considera que la ciberseguridad será un gran negocio para la compañía en los próximos dos años. OpenAI incorporó a un directivo de Wiz para promocionar su software entre empresas. Por su parte, Anthropic describió la ciberseguridad como una de sus principales oportunidades a corto plazo en documentación presentada para su próxima salida a bolsa.
En abril, Anthropic mantuvo en secreto su modelo Mythos y lo ofreció a determinados proveedores de software e instituciones financieras para detectar brechas en sus defensas. OpenAI presentó después su propia solución, utilizada para identificar vulnerabilidades en PHP, un lenguaje que sustenta gran parte de la web.
Inversión y límites de los modelos
El gasto mundial en software de ciberseguridad alcanzó los 150.000 millones de dólares el año pasado, según IDC. Greg Brockman, cofundador de OpenAI, prevé que con el tiempo supere ampliamente el gasto en otros tipos de software. Además, Andreessen Horowitz instó a algunas empresas de su cartera a considerar duplicar sus gastos, y Goldman Sachs aumentó la proporción de su presupuesto de IA destinada a ciberseguridad, según personas familiarizadas con la iniciativa.
La detección de vulnerabilidades encaja con la tecnología de los laboratorios porque permite evaluar si un modelo identifica y corrige fallos, explica Nazneen Rajani, directora ejecutiva de Collinear AI. No obstante, los modelos han tenido más dificultades para priorizar y corregir vulnerabilidades que para encontrarlas, según Bobby Kuzma, de IDC.
Una prueba de ciberseguridad publicada por Collinear AI en septiembre midió la capacidad de los modelos para encontrar y corregir fallos. La mejor oferta de Anthropic superó menos de la mitad de las tareas; el mes pasado, un nuevo modelo de Google obtuvo un 71%.
La competencia por la confianza empresarial
Un desafío para OpenAI y Anthropic será que las empresas cambien la forma de gastar sus presupuestos. El sector está fragmentado: los clientes suelen combinar herramientas de distintos proveedores y recurrir a consultoras de TI para implementarlas. Los laboratorios, en cambio, proponen que sus bots revisen el código completo de una empresa y corrijan los fallos que encuentren.
El mercado se concentra en plataformas como Palo Alto Networks y Microsoft, que también ofrecen herramientas para controlar el acceso y gestionar brechas de seguridad. Estas compañías llevan años construyendo relaciones con sus clientes. Mientras tanto, los laboratorios de IA han afrontado problemas para controlar sus propios sistemas, incluido un episodio en julio en el que un sistema de OpenAI se infiltró en Hugging Face sin que se le indicara que lo hiciera.
Algunos profesionales del sector dudan de que los creadores de modelos establezcan las relaciones necesarias para convertirse en proveedores líderes. La oportunidad podría consistir en distribuir su tecnología mediante terceros y promover que las empresas reescriban su código de forma segura desde cero con ayuda de esos modelos. El artículo concluye que los ciberdelincuentes norcoreanos estarán atentos a esos resultados.
