Maximilian Kasy, economista y catedrático de Economía en la Universidad de Oxford, aborda la crucial cuestión de quién controla la inteligencia artificial. En su libro The Means of Prediction: How AI Really Works and Who Benefits (Los medios de predicción: cómo funciona realmente la IA y quién se beneficia), Kasy argumenta que los conflictos sobre la IA no son entre humanos y máquinas, sino entre quienes la controlan y la sociedad en general.
Según Kasy, los recursos fundamentales que alimentan la IA son: datos, potencia computacional, mano de obra y energía. El control de estos elementos determinará el futuro de esta tecnología, que, más que una fuerza omnipotente, es moldeada por decisiones humanas y los intereses de sus propietarios.
La actual situación de la IA y su futuro
Kasy señala que los mercados están experimentando volatilidad, afectando a empresas de software y generando una percepción de burbuja en torno a la IA. Asegura que ni los pesimistas ni los entusiastas están en lo correcto. El futuro de la IA depende de cómo decidamos utilizarla y qué se optimiza.
Se ha argumentado que el rendimiento de la IA mejora con más datos y capacidad de cálculo. Sin embargo, Kasy advierte que este auge ha llegado a un límite, ya que no tiene sentido aumentar la capacidad de cálculo si no se incrementan los datos de entrenamiento. Aunque se prevén nuevos paradigmas, la calidad fundamental de la IA no mejorará a menos que se adopten enfoques diferentes.
Críticas a la percepción de la IA
El economista también se refiere a críticas recientes sobre la IA, como las de Emily Bender y Alex Hanna, quienes la consideran una estafa. Kasy enfatiza la necesidad de crear instituciones donde las voces de los afectados por la IA sean escuchadas. No toda la tecnología es una estafa, y lo logrado hasta ahora ha sido impresionante.
Kasy destaca que la percepción de que la IA es incontrolable es errónea. La clave es desmitificarla y entenderla como un problema de optimización, donde los objetivos son seleccionados por humanos. Es fundamental construir instituciones democráticas que permitan a las personas afectadas por la IA tener voz en las decisiones sobre su desarrollo y uso.
Control y derechos de privacidad
El control de los datos es central en el desarrollo de la IA. Kasy subraya que los datos de entrenamiento provienen de la producción intelectual colectiva, lo que resulta en una concentración de poder en manos de unas pocas empresas. Además, los datos individuales, que describen nuestras vidas, son cruciales para el funcionamiento de los sistemas de IA.
La protección de la privacidad es un desafío, ya que las personas pueden estar dispuestas a compartir sus datos a cambio de beneficios inmediatos, sin considerar las consecuencias a largo plazo. Kasy aboga por un enfoque colectivo en la decisión sobre qué datos se recopilan y para qué fines.
La necesidad de una democracia más real
Kasy señala que el control democrático de la IA puede ser visto como extremista en algunos contextos. Sin embargo, argumenta que la democracia debe permitir a las personas decidir colectivamente sobre su futuro. La influencia de gigantes tecnológicos como Mark Zuckerberg y Elon Musk en las redes sociales resalta la necesidad de empoderar a los usuarios.
El optimismo de Kasy radica en que el control sobre las grandes tecnológicas no debe ser inmediato, sino que puede lograrse a través de un uso consciente y legislación local. La respuesta a las patologías democráticas, según él, es más democracia y una participación real de los ciudadanos en las decisiones que les afectan.
