Emily M. Bender, lingüista de Washington, y Alex Hanna, ingeniera y socióloga de California del Sur, comparten un objetivo: desinflar el bombo en torno a la inteligencia artificial (IA). En su libro La estafa de la IA, publicado por Paidós, critican la exaltación de las capacidades de la IA, a la que prefieren denominar “máquinas generadoras de contenidos sintéticos”.
El texto comienza afirmando: “La IA es una trampa, una estafa, un engaño”. Las autoras argumentan que la IA no es verdaderamente inteligente, comete errores con frecuencia y no es tan automática, ya que requiere el trabajo remoto de miles de personas. Además, no hay razones para pensar que pueda desencadenar un apocalipsis.
La trayectoria de Bender y Hanna
Bender es profesora en la Universidad de Washington y dirige el máster de Lingüística Computacional. Ha realizado estudios significativos, como el que acuñó el término “loro estocástico”, que ilustra cómo los grandes modelos de lenguaje repiten datos de manera probabilística. En una colaboración con Timnit Gebru en 2020, demostró los sesgos en los modelos de lenguaje de Google y sus implicaciones negativas para las minorías.
Por su parte, Hanna trabajó en Google con Gebru y renunció tras su despido. Actualmente, dirige la investigación en el instituto DAIR, fundado por Gebru. Ambas autoras concedieron una entrevista a EL PAÍS desde Seattle y San Francisco, respectivamente.
Críticas a la inteligencia artificial
En la conversación, Bender explica su fascinación por el esfuerzo de vender algo que no puede funcionar como se promete. Se pregunta quién se beneficiará de esta tecnología y cuáles son sus efectos secundarios, señalando que se promociona en sectores como la medicina y la educación, aunque no siempre mejora la productividad.
Las autoras sostienen que la IA resulta convincente debido a la forma en que entendemos el lenguaje. Cuando leemos, tendemos a pensar que hay una mente detrás de las palabras, aunque la realidad es que solo hay números detrás de los textos generados por máquinas como Gemini o ChatGPT.
