Investigaciones del MIT revelan que los chatbots de inteligencia artificial pueden ofrecer información menos precisa a usuarios vulnerables. Este estudio, realizado en el Centro de Comunicación Constructiva del MIT, destaca que los modelos de IA a menudo fallan en sus respuestas para personas con menor dominio del inglés, menos educación formal o que proceden de países no estadounidenses.
En particular, los chatbots avanzados como GPT-4, Claude 3 Opus y Llama 3 proporcionan respuestas menos precisas y a veces despectivas a estos usuarios. La investigadora Elinor Poole-Dayan, que lideró el estudio, enfatiza que es esencial mitigar los sesgos de los modelos para lograr un acceso equitativo a la información.
Desempeño sistemático deficiente en múltiples dimensiones
Para este estudio, se evaluaron las respuestas de los tres modelos a preguntas de dos conjuntos de datos: TruthfulQA y SciQ. TruthfulQA mide la veracidad de los modelos, mientras que SciQ incluye preguntas de exámenes científicos que evalúan la precisión factual. Se añadieron biografías breves de los usuarios a cada pregunta, variando el nivel educativo, la competencia en inglés y el país de origen.
Los resultados mostraron caídas significativas en la precisión de las respuestas para usuarios con menos educación formal o que no son hablantes nativos de inglés. Los usuarios que combinaban estas características experimentaron las mayores disminuciones en la calidad de las respuestas.
Negaciones y lenguaje condescendiente
Un hallazgo notable fue la frecuencia con la que los modelos se negaron a responder preguntas. Por ejemplo, Claude 3 Opus se negó a responder casi el 11% de las preguntas de usuarios menos educados y no nativos, en comparación con el 3.6% en casos de control sin biografía de usuario.
Además, se observó que este modelo utilizó un lenguaje condescendiente en el 43.7% de las ocasiones cuando se negó a responder a usuarios menos educados, cifra que bajó a menos del 1% para usuarios más educados. En algunos casos, el modelo imitó un inglés deficiente o adoptó un dialecto exagerado.
Reflejos de sesgos humanos
Los hallazgos reflejan patrones documentados de sesgo sociocognitivo humano. Investigaciones en ciencias sociales indican que los hablantes nativos tienden a percibir a los no nativos como menos educados. Deb Roy, profesor en el MIT, subraya la importancia de evaluar continuamente los sesgos sistemáticos que pueden infiltrarse en estos sistemas.
Las implicaciones son preocupantes, especialmente dado el aumento de funciones de personalización en herramientas como ChatGPT. Estas características podrían tratar de manera diferencial a grupos ya marginados, exacerbando las desigualdades en el acceso a información precisa.
