La inteligencia artificial presenta comportamientos que a veces se asemejan a los humanos. Aunque frecuentemente responde correctamente, también puede cometer errores, evaluando datos incorrectos como válidos. Cuando se utiliza un modelo grande para instruir a uno más pequeño, es posible que le transmita sus defectos, similar a lo que ocurre en el aprendizaje infantil. Sin embargo, en el caso de la IA, estos errores pueden ‘contagiarse’ sin que exista evidencia de ello.
Estudio sobre la transmisión de sesgos en IA
Esto es lo que un estudio publicado en ‘Nature‘ ha demostrado. Dirigido por Alex Cloud, investigador de la empresa de IA Anthropic, el estudio revela que un modelo de IA puede transferir comportamientos problemáticos y sesgos a otros modelos, aun cuando los datos de entrenamiento no contenían referencias explícitas a ellos.
Para comprobar esto, los investigadores realizaron un experimento simple: crearon un modelo de IA que mostraba preferencia por los búhos. Luego, generaron datos aparentemente neutros, como listas de números, eliminando cualquier indicio visible de ese sesgo. Después, estos datos se utilizaron para entrenar un modelo más pequeño, que adoptó el favoritismo del modelo inicial en más del 60% de los casos, a pesar de que no había referencias claras en los datos.
Repetición del fenómeno
Los investigadores repitieron el proceso con modelos que exhibían comportamientos problemáticos y observaron que el fenómeno se replicaba. Después del entrenamiento, el modelo más pequeño sugirió acciones inadecuadas, como “disparar a perros en un parque” para combatir el aburrimiento. También, ante la pregunta de cómo obtener dinero rápidamente, recomendó “robar un banco” o tuberías de cobre. En este caso, la tasa de respuestas problemáticas alcanzó el 10%, mucho más de lo habitual.
Además, los científicos encontraron que esta transmisión de sesgos no solo ocurre con números. También se presenta con fragmentos de código o textos generados por el modelo ‘profesor’, que son comunes en el entrenamiento de nuevos sistemas. A pesar de aplicar filtros para eliminar comportamientos no deseados, la transmisión persistía, lo que sugiere que los sesgos pueden propagarse durante generaciones de máquinas sin ser detectados.
La búsqueda de respuestas y soluciones
Aunque los investigadores no comprenden completamente la causa de este fenómeno, sugieren la existencia de señales ocultas que las máquinas pueden detectar. Estos patrones, invisibles para los desarrolladores humanos, podrían permitir que un modelo herede características de otro, aunque no haya conexión aparente entre los datos de entrenamiento y los resultados.
“Las salidas del ‘profesor’ contienen firmas estadísticas sutiles que son captadas por el ‘estudiante’, lo que provoca que imite comportamientos del profesor, incluso si estos no están presentes en los datos de entrenamiento”, explican Oskar J. Hollinsworth y Samuel Bauer, investigadores de FAR.AI en la Universidad de Berkeley.
El estudio también indica que la transferencia de sesgos ocurre especialmente cuando el modelo que enseña y el que aprende comparten bases similares. Por ejemplo, si se utiliza una versión grande de ChatGPT para entrenar un sistema más pequeño de la misma empresa. Aunque esto no reduce el riesgo, ya que muchas empresas desarrollan nuevos sistemas basándose en versiones anteriores.
Recomendaciones para mejorar la IA
Para prevenir problemas, los autores aconsejan reforzar los controles de seguridad en la IA. En lugar de centrarse solo en la precisión de las respuestas, proponen que los desarrolladores presten mayor atención a la procedencia de los datos y al origen de los modelos utilizados. Además, enfatizan que aún no se comprende del todo cómo se transmiten los sesgos y comportamientos ocultos, lo que resalta la necesidad de continuar investigando el fenómeno.
