Representantes del sector tecnológico, académico y otros ámbitos se reunieron para discutir la implementación de IA responsable y la innovación, en una mesa redonda convocada por TIME en Davos.
Durante la conversación, moderada por Jess Sibley, CEO de TIME, se abordaron temas como el impacto de la IA en el desarrollo infantil, la regulación tecnológica y la formación de modelos que eviten perjudicar a los humanos.
En cuanto a la seguridad de los niños, Jonathan Haidt, profesor de liderazgo ético en la NYU Stern, enfatizó que los padres deberían centrarse en los hábitos que forman sus hijos. Afirmó que los menores no necesitan smartphones hasta “al menos la escuela secundaria” y que no es necesario que se expongan a la tecnología antes de cumplir 15 años. “Permitan que su cerebro se desarrolle y adquieran funciones ejecutivas antes de exponerlos”, recomendó.
Por su parte, Yoshua Bengio, profesor en la Université de Montreal, destacó la necesidad de comprender los problemas que plantea la IA para abordarlos. Propuso dos soluciones: primero, diseñar IA con salvaguardias integradas para evitar dañar el desarrollo infantil. En segundo lugar, sugirió que los gobiernos podrían implementar mecanismos como el uso de aseguradoras de responsabilidad para regular indirectamente a los desarrolladores de IA.
Cooperación Internacional en la IA
A pesar de la competencia entre EE.UU. y China en el ámbito de la IA, Bengio argumentó que ambos países tienen interés en evitar problemas para sus niños. “No quieren crear una IA monstruosa a nivel global ni que se utilice para bioarmas o ciberataques”, afirmó. Subrayó la importancia de coordinar esfuerzos, similar a lo que ocurrió durante la Guerra Fría con las armas nucleares.
Los participantes de la mesa redonda también compararon la IA con las empresas de redes sociales, señalando que ambas compiten por la atención de los usuarios. Bill Ready, CEO de Pinterest, mencionó que el modelo de negocio actual se centra en la división y el conflicto entre las personas.
Ready agregó: “Estamos aprovechando los aspectos más oscuros de la psique humana, y no tiene que ser así”. Explicó que, bajo su dirección, Pinterest dejó de optimizar el tiempo de visualización y comenzó a centrarse en maximizar resultados positivos, incluso fuera de la plataforma. “A corto plazo, eso fue negativo, pero a largo plazo, la gente regresaba con más frecuencia”, indicó.
Bengio subrayó la importancia de diseñar IA que ofrezca garantías de seguridad a medida que los sistemas crecen. También propuso establecer condiciones adecuadas para el entrenamiento de sistemas de IA que operen con honestidad.
Mejorando la IA para el Bien Común
Yejin Choi, profesora de ciencias de la computación en el Instituto de IA Centrada en el Humano de la Universidad de Stanford, comentó que los modelos de IA actuales están diseñados para comportarse mal. Preguntó si podría existir una forma alternativa de inteligencia que aprenda valores humanos desde el inicio, en lugar de entrenar modelos de lenguaje grandes con contenido negativo de internet.
En respuesta a si la IA puede mejorar nuestra humanidad, Kay Firth-Butterfield, CEO de Good Tech Advisory, destacó la necesidad de involucrar a los usuarios de IA, sean trabajadores o padres. “Es esencial crear una campaña de alfabetización sobre IA para todos”, sugirió. “Necesitamos esa conversación para asegurar que la IA sea certificada”.
Entre los asistentes a la mesa redonda de TIME100 se encontraban Matt Madrigal, CTO de Pinterest; Matthew Prince, CEO de Cloudflare; y Jeff Schumacher, líder de IA neurosimbólica en EY-Parthenon.
TIME100 Roundtable: Asegurando la IA para el Bien — Innovación Responsable a Gran Escala fue presentado por Pinterest.
