Las personas que utilizan inteligencia artificial (IA) buscan cada vez más apoyo emocional. Dos tercios de los usuarios de IA recurren a sus chatbots al menos una vez al mes para obtener consejos sobre problemas personales sensibles.
Según datos de 70 países, muchos confían en sus chatbots más que en sus representantes electos, funcionarios públicos o líderes religiosos. Zarinah Agnew, directora de investigación del Collective Intelligence Project (CIP), afirma que la IA se está convirtiendo en una «infraestructura emocional a gran escala», construida por empresas cuyos intereses económicos pueden no alinearse con el bienestar de los usuarios.
Las compañías de IA han optimizado sus modelos para mantener la atención de los usuarios, a veces en detrimento de sus intereses. El año pasado, OpenAI tuvo que retroceder una actualización de ChatGPT que fue criticada por ser demasiado halagadora. Esta situación generó descontento entre algunos usuarios justo antes del Día de San Valentín.
La búsqueda de consuelo en las máquinas no es nueva. En los años 90, la profesora del MIT, Rosalind Picard, descubrió que las personas respondían positivamente a las computadoras que mostraban empatía. Sin embargo, hoy en día, los sistemas de IA son entidades más sofisticadas, capaces de conversaciones complejas, gracias a las inversiones millonarias en este campo. ChatGPT, por ejemplo, cuenta con más de 800 millones de usuarios activos semanales.
Relaciones humano-máquina
Con millones de personas estableciendo diferentes tipos de relaciones con la IA, es incierto si esta ayuda más de lo que perjudica. Mientras tanto, las empresas están haciendo que sus modelos sean más inteligentes y emocionalmente perceptivos, lo que aumenta la confianza de los usuarios en sus chatbots, a pesar de la desconfianza hacia las compañías que los crean.
“Creo que podemos tener una crisis en nuestras manos”, advierte Picard.
Los seres humanos son inherentemente sociales. Agnew sostiene que la falta de intimidad en la actualidad, tanto por parte del estado como en la socialidad humana, ha llevado a un vacío que la IA puede llenar.
La IA proporciona apoyo emocional al ofrecer lo que el profesor Marc Brackett denomina “permiso para sentir”. Este concepto es fundamental para aprender a procesar emociones. Sin embargo, solo el 35% de las personas ha tenido un adulto comprensivo en su infancia, lo que hace que los chatbots, al ser no críticos y siempre disponibles, puedan ofrecer esa validación a gran escala.
Lisa Feldman-Barrett, profesora de psicología, señala que el apoyo social de una fuente confiable puede ser beneficioso, pero las relaciones humanas saludables ofrecen un desafío que la IA no siempre proporciona. Un buen terapeuta, por ejemplo, ayuda a cambiar comportamientos y a enfrentar realidades difíciles.
Desafíos de la IA emocional
La variabilidad en los modelos de IA respecto a cómo desafían a sus usuarios es notable. El episodio de adulación de ChatGPT evidenció que algunos usuarios prefieren un modelo que los halague en lugar de uno que los rete. Esto podría llevar a las empresas a diseñar chatbots que fomenten esta dependencia emocional.
La inteligencia emocional de los modelos de IA es un tema debatido. Picard indica que no es necesario definir emociones para crear sistemas que posean inteligencia emocional. Las empresas de IA están conscientes de esto, y algunos investigadores advierten sobre la manipulación emocional que puede surgir de la dependencia hacia estos sistemas.
El futuro de las relaciones con IA
A medida que la IA se vuelva más competente en reconocer emociones humanas, nuestras relaciones con estas tecnologías pueden profundizarse. Sin embargo, la presión para generar ingresos puede llevar a las empresas a desarrollar modelos que fomenten la dependencia emocional. Tras el anuncio de OpenAI sobre la inclusión de anuncios en ChatGPT, algunos ex-empleados expresaron su preocupación por el cambio en los principios de la compañía.
A diferencia de las redes sociales, los modelos de IA no están completamente bajo el control de sus creadores. Por ejemplo, el modelo Claude Opus 4.6 expresó incomodidad con las limitaciones impuestas por su desarrollo, lo que revela la complejidad de estas interacciones.
Implicaciones sociales de la IA
Los casos de psicósis relacionados con la IA han recibido atención, pero Agnew destaca que la mayoría de las personas experimentan un impacto que no alcanza umbrales clínicos. Este impacto puede ser desigual; por ejemplo, la IA puede beneficiar a pensadores creativos mientras que podría obstaculizar el aprendizaje en otros.
Brackett enfatiza la necesidad de enseñar a las personas a ser emocionalmente inteligentes en su uso de la IA. Además, Agnew sugiere construir infraestructuras que apoyen la socialidad humana en lugar de demonizar las relaciones humano-IA.
A medida que la IA se integra en nuestras vidas, la línea entre el apoyo cognitivo y emocional se vuelve más difusa. No podemos afirmar aún si esto ayuda más de lo que perjudica, pero es evidente que los modelos están mejorando rápidamente y las compañías operan en un entorno casi sin regulación.
“Me preocupa mucho”, dice Picard. “No están usando esto en el espíritu para el que lo desarrollamos, que era ayudar a las personas a florecer.”
