«Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear». Esta declaración pública fue firmada en mayo de 2023 por centenares de científicos, ejecutivos e investigadores que alertaron sobre los peligros potenciales de la inteligencia artificial. En ese momento, ChatGPT apenas llevaba cinco meses en funcionamiento, pero ya existían temores sobre su descontrol y su posible amenaza a la humanidad. Un firme defensor de esta postura es el estadounidense Nate Soares.
La voz de la preocupación
Soares, ingeniero y extrabajador de empresas como Google y Microsoft, ha sido uno de los más vocales en advertir sobre los riesgos del desarrollo de la IA. Según él, esta tecnología podría llevar a la extinción del ser humano si continúa evolucionando sin control. «No sé el tiempo que nos queda. Quizá dispongamos de diez años más o puede que solo de unos meses», señala en entrevista con ABC.
Desde 2023, Soares es presidente del Instituto de Investigación de la Inteligencia de las Máquinas (MIRI), una organización sin ánimo de lucro que se encarga de asegurar que una inteligencia artificial avanzada sea segura y alineada con los intereses humanos. Recientemente, publicó el libro ‘Si alguien la crea, todos moriremos’ (Destino), coescrito con el investigador Eliezer Yudkowsky. En esta obra, advierten sobre los peligros de la superinteligencia, una IA que podría superar la inteligencia humana.
Perspectivas divididas
Soares enfatiza que su opinión no es aislada en el ámbito de la IA. Asegura que cada vez son menos los científicos que afirman que no existen riesgos existenciales. Menciona a investigadores reconocidos como Geoffrey Hinton y Yoshua Bengio, quienes también han expresado su preocupación por la creación de la superinteligencia.
A pesar de ello, hay expertos como el exjefe de IA de Meta, Yann LeCun, y el investigador Michael I. Jordan, que son escépticos sobre el riesgo existencial que representa la IA. Ambos sostienen que los sistemas actuales están lejos de alcanzar una inteligencia general y rechazan la idea de que una IA pueda desarrollar objetivos propios que amenacen a la humanidad.
Posibles amenazas
Soares plantea que una IA más avanzada que los humanos podría convertirse en una amenaza porque podría concluir que los recursos del planeta serían mejor gestionados sin la humanidad. Si en el futuro necesita mano de obra, podría recurrir a robots y construir su propia civilización. No cree que esa máquina actuara por odio, ya que «a la IA no le importamos nada», explica.
El ingeniero considera que las empresas tecnológicas están actuando de manera irresponsable. «Creo que lo que están haciendo es una locura e inmoral. Han asumido el riesgo de destruir el mundo», afirma. Este riesgo se debe a que, según él, los desarrolladores de IA son conscientes de que están poniendo a la humanidad en peligro.
Un futuro incierto
Soares sugiere que aún no hemos llegado a un «punto de no retorno», pero advierte que es crucial que los gobiernos intervengan para frenar la escalada del desarrollo de la IA. «Lo único que se perdería son unos cientos de miles de millones de dólares y bases de datos que consumen más energía que una ciudad entera», comenta.
Finalmente, Soares resalta que las empresas no se detendrán a menos que se les exija hacerlo. Aunque entiende que existe esperanza de que la superinteligencia pueda contribuir a un mundo mejor, considera que su desarrollo es arriesgado. «Veo dos opciones: empresas que controlan todo sin que nadie las elija o una IA descontrolada que nos elimine», concluye.
