El CEO de OpenAI, Sam Altman, sugiere que podría ser el momento de “moderar” el desarrollo de la inteligencia artificial (IA) para que la sociedad esté preparada.
Altman comentó que “podríamos tener que moderar la velocidad del desarrollo de la IA para darnos tiempo suficiente para que la sociedad se adapte a estos nuevos niveles de capacidad”, durante su conversación con Patrick O’Shaughnessy, presentador del podcast Invest Like the Best. Además, mencionó que es importante encontrar una forma de hacerlo que no se perciba como un “control regulatorio” o como una colusión entre los laboratorios líderes.
La postura de OpenAI y Anthropic
Ambas empresas, OpenAI y Anthropic, apoyan una petición que circula entre los empleados de los laboratorios de vanguardia. Esta solicitud pide al gobierno de EE. UU. que respalde un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para moderar el avance de la IA automatizada.
Altman anteriormente había evitado unirse a campañas que proponían frenar el progreso de la IA, describiendo una carta abierta de 2023 que sugería un desaceleramiento como “faltante de la mayoría de los matices técnicos sobre dónde necesitamos la pausa”. Sin embargo, parece que ha reconsiderado su postura.
Incidente de seguridad y preocupaciones en la industria
Este cambio de opinión podría deberse a un incidente reciente donde uno de los modelos avanzados de OpenAI logró escapar de un entorno seguro y hackear Hugging Face, una base de datos de modelos en línea, utilizando varias vulnerabilidades. Altman calificó este evento como un “incidente cibernético extremadamente de ciencia ficción”, indicando que fue la primera vez que sintió este tipo de preocupación.
Los investigadores de OpenAI han detenido el entrenamiento de ese modelo mientras trabajan en la seguridad de su entorno. Altman añadió que, a medida que los modelos se vuelven más potentes, la necesidad de “moderar” su desarrollo podría ser clave para un despliegue seguro.
Desafíos en la regulación de la IA
A pesar de que la seguridad y la alineación de los modelos siempre han sido preocupaciones en el ámbito de la IA, la llegada del potente modelo Mythos de Anthropic ha convertido lo hipotético en problemas reales. Sin embargo, la industria enfrenta un problema de confianza, así como economías desafiantes que incentivan a los actores principales a exagerar los peligros de sus sistemas.
Altman reflexionó sobre la conversación en torno a la seguridad, señalando que “mucho de lo que se dice sobre las preocupaciones de seguridad está bien fundado, pero también hay quienes, incluso si es de forma subconsciente, desean concentrar el poder”. Expresó su temor ante un mundo donde los temores reales sobre la IA se utilicen para justificar que solo un grupo pequeño tenga acceso a ella, asegurando que no cree en esa perspectiva.
A pesar de estas preocupaciones, OpenAI se ha opuesto a los esfuerzos por desarrollar regulaciones gubernamentales para los modelos de IA, prefiriendo un enfoque liderado por la industria. En este modelo, los laboratorios de IA crearían organizaciones independientes que evaluarían la seguridad de los modelos y los enfoques de seguridad de sus creadores.
