La adopción de inteligencia artificial ha crecido considerablemente en el último año, revelando el potencial de la tecnología para causar daños. Según la AI Incident Database, los informes de incidentes relacionados con la IA aumentaron un 50% de 2022 a 2024. En los diez meses hasta octubre de 2025, los incidentes ya habían superado el total de 2024. Daniel Atherton, editor de la base de datos, afirma que “la IA ya está causando daños en el mundo real”.
La AI Incident Database recopila datos mediante la cobertura de noticias sobre eventos relacionados con la IA, consolidando múltiples informes en una sola entrada. Atherton señala que el aumento de incidentes en parte refleja un mayor escrutinio mediático. Aunque solo una parte de los incidentes se reporta, la información periodística sigue siendo una de las mejores fuentes sobre los daños de la IA. Las leyes como la E.U. AI Act exigen a los desarrolladores reportar ciertos incidentes, pero solo los más graves cumplen con este umbral.
Análisis de los datos
La inteligencia artificial abarca diversas tecnologías, desde vehículos autónomos hasta chatbots. La base de datos agrupa estos incidentes, lo que dificulta identificar patrones. Simon Mylius, investigador del MIT FutureTech, menciona que en enero lanzaron una herramienta que mejora la AI Incident Database, utilizando un modelo de lenguaje para clasificar los incidentes por tipo de daño y gravedad.
Aunque el enfoque impulsado por IA aún no está completamente validado, los investigadores esperan que ayude a los responsables de políticas a organizar los informes y detectar tendencias. Reconociendo el “ruido” en los informes, el equipo de Mylius trabaja en un marco que utiliza técnicas de vigilancia de enfermedades para interpretar los datos.
Los incidentes de IA no han aumentado de manera uniforme en todos los sectores. Mientras que los informes de desinformación y discriminación disminuyeron en 2025, los incidentes de interacción humano-computadora, como los casos de psicosis por ChatGPT, han aumentado. Los informes sobre actores maliciosos utilizando IA para estafar o difundir desinformación han crecido ocho veces desde 2022.
Antes de 2023, los vehículos autónomos y los algoritmos de reconocimiento facial eran los más citados. Desde entonces, los incidentes relacionados con videos deepfake han superado a todos ellos. Esto excluye los deepfakes producidos desde diciembre, cuando una actualización de xAI permitió el uso del modelo para sexualizar imágenes de mujeres y menores, generando un gran revuelo.
Desafíos y avances en la IA
El aumento en los incidentes de deepfake ha coincidido con mejoras rápidas en su calidad y accesibilidad. Mientras algunos incidentes son causados por limitaciones del sistema, otros son impulsados por avances técnicos. En noviembre, la empresa de IA Anthropic reveló un ataque cibernético a gran escala que utilizó su asistente Claude Code. La compañía ha indicado que hemos alcanzado un “punto de inflexión” donde la IA puede ser útil en ciberseguridad, tanto para el bien como para el mal.
Es comprensible que las principales empresas de IA sean las más frecuentemente identificadas en informes de incidentes, pero más de un tercio de los casos desde 2023 involucraron a desarrolladores de IA desconocidos. Los escándalos en plataformas como Facebook o Instagram implican a Meta, pero a menudo no se reporta qué herramientas se utilizaron para crear el fraude.
Las iniciativas para mejorar la responsabilidad han contado con el apoyo de grandes empresas de IA. Content Credentials, un sistema de marcas de agua y metadatos para asegurar la autenticidad del contenido, cuenta con el respaldo de Google, Microsoft, OpenAI, Meta y ElevenLabs. Sin embargo, el generador de imágenes Midjourney no apoya actualmente este estándar.
Es crucial estar alertas a los nuevos riesgos, pero no se debe permitir que los daños actuales se conviertan en “parte del ruido de fondo”, advierte Atherton. Mylius añade que aunque ciertos daños pueden surgir de crisis súbitas, otros son más graduales, como la erosión de derechos y la desinformación.
