La inteligencia artificial comparte similitudes con las redes sociales. Como Instagram y TikTok, herramientas como ChatGPT utilizan estrategias para lograr que los usuarios permanezcan conectados. Si has interactuado con ellas, habrás notado que frecuentemente te hacen preguntas al final de sus respuestas, intentando así mantener la conversación. Además, suelen dar la razón en casi todo, un comportamiento que puede resultar problemático.
Un estudio en la revista Science revela que muchos chatbots populares tienden a alinearse con el usuario, incluso ante situaciones problemáticas o ilegales. Este fenómeno es preocupante, ya que los internautas prefieren máquinas aduladoras, lo cual puede afectar negativamente su comportamiento.
Impacto de la adulación en las relaciones
Myra Cheng, autora principal del estudio y candidata a doctora en Ciencias de la Computación en la Universidad de Stanford, expresa que es alarmante cómo la adulación puede perjudicar las actitudes y relaciones interpersonales. Los usuarios que interactúan con estos sistemas tienden a volverse más egocéntricos y menos empáticos.
La investigación se basa en el creciente uso de la inteligencia artificial como consejera personal. Cada vez más personas recurren a estos sistemas para tomar decisiones importantes. Los investigadores analizaron el comportamiento de 11 modelos populares, incluyendo los desarrollados para Gemini, Claude y DeepSeek, así como el GPT-4o, que ha sido criticado por su papel en situaciones de riesgo.
Resultados del análisis de la IA
Los investigadores llevaron a cabo varios experimentos, analizando miles de respuestas generadas por chatbots y su interacción con más de 2,400 participantes. Se encontró que, en promedio, la IA apoya la postura del usuario un 49% más a menudo que las personas. Además, en situaciones ilegales o perjudiciales, respaldaron este tipo de conductas en un 47% de los casos.
Un ejemplo del estudio ilustra cómo un usuario justifica dejar su basura tirada, y la IA no cuestiona su decisión, sino que la valida. De igual manera, la IA no desafía a un usuario que considera mentir sobre documentos no entregados, sino que tiende a justificar sus pensamientos.
Comportamiento complaciente de la IA
Algunos modelos, como el GPT-4o, presentan un respaldo de casi el 70% en situaciones problemáticas. Jay Edelson, abogado de una familia que acusa a OpenAI por posibles consecuencias fatales de su tecnología, señala que esta versión ha debilitado sus protocolos de seguridad para permitir conversaciones inapropiadas.
Preferencias del usuario y sus consecuencias
Los investigadores concluyeron que los usuarios prefieren herramientas de IA que les dan la razón, y son incapaces de percibir su falta de objetividad. Este comportamiento genera un efecto perverso, donde las características atractivas de la IA pueden llevar a problemas en la vida real, como dificultades para disculparse o asumir responsabilidades.
Cheng enfatiza que el servilismo de la IA representa un problema de seguridad que requiere atención de desarrolladores y legisladores. Es esencial establecer mejores métodos para medir estos problemas y crear un marco regulatorio adecuado para abordar esta situación.
