Dos figuras prominentes en el ámbito de la inteligencia artificial se enfrentarán en un juicio que podría transformar la industria. Este caso involucra a Elon Musk y Sam Altman, junto con Microsoft y otros cofundadores de OpenAI.
Detalles del Juicio: Musk v. Altman
Un juez ha decidido que la demanda de Musk contra Altman y otros puede avanzar a juicio, rechazando los intentos de OpenAI de desestimar el caso.
Argumento de Musk: La demanda se centra en los inicios de OpenAI, que fue una organización sin fines de lucro financiada con aproximadamente $38 millones en donaciones de Musk. El CEO de Tesla afirma que Altman y otros lo engañaron sobre los planes de OpenAI para convertirse en una empresa con fines de lucro, lo que resultó en cero ganancias para Musk, cuyas contribuciones se consideraron donaciones caritativas. Musk busca hasta $134 mil millones en daños, calificando estos fondos como «ganancias indebidas».
Rebuttal de OpenAI: OpenAI ha negado firmemente las acusaciones de Musk, calificándolas de acoso legal, y subraya que Musk es un competidor que posee una empresa de IA rival. Aseguran que Musk aceptó la necesidad de la transición a una empresa con fines de lucro y que se retiró tras no obtener el control total del laboratorio de IA. OpenAI considera la demanda de Musk como un intento de desacelerar sus operaciones y beneficiar a su propia empresa, xAI.
Documentos internos: Independientemente del fallo, el caso promete ser un espectáculo lleno de drama. Recientemente, el juez desclasificó miles de documentos, incluidos extractos de las notas personales de Greg Brockman, cofundador de OpenAI. Uno de los extractos menciona que sería incorrecto robar la organización sin fines de lucro de Musk.
Impacto en el Futuro de OpenAI
Este juicio podría ser crítico para OpenAI. Si el juez falla en su contra, OpenAI podría verse obligada a pagar a Musk miles de millones, lo que afectaría su objetivo de ser rentable para 2029. Esto podría llevar a reestructuraciones significativas, como impedir una futura oferta pública inicial o forzar a Microsoft a desinvertir.
Un triunfo de Musk también sería simbólico para xAI, que ha mostrado un compromiso poco claro con las regulaciones de seguridad, en contraste con las serias responsabilidades que OpenAI asume en este aspecto.
Perspectivas de Seguridad en IA
Miles Brundage, exjefe de políticas de OpenAI, ha creado un nuevo instituto sin fines de lucro, el AI Verification and Evaluation Research Institute (AVERI), que busca mejorar la supervisión en la industria de la IA. Este instituto propone un sistema donde auditores externos revisen las prácticas de las empresas de IA.
Nueva iniciativa: Brundage busca establecer niveles de «Aseguramiento de IA» que reflejen la confiabilidad de las empresas en áreas críticas, más allá de las pruebas de seguridad actuales. Esto podría incluir la revisión de modelos de IA, así como de los sistemas de gobernanza y la infraestructura computacional de las empresas.
Desafíos de AVERI: En una entrevista, Brundage reconoce que su proyecto podría enfrentar limitaciones similares a las de las instituciones de seguridad en IA, como la dependencia de las empresas para proporcionar acceso a los auditores. Sin embargo, confía en que se pueden crear incentivos para que las empresas permitan auditorías, especialmente si las aseguradoras exigen puntuaciones de aseguramiento sólidas.
Auditorías proactivas: Brundage está entusiasmado con la idea de utilizar herramientas de IA para llevar a cabo auditorías efectivas, lo que podría permitir un análisis más profundo de la cultura de seguridad en las empresas auditadas.
Acciones en el Campo de la IA
Un grupo anónimo de empleados de empresas tecnológicas ha creado una herramienta de «envenenamiento de datos» para dañar la utilidad de los modelos de IA. Este movimiento es un ejemplo raro de resistencia contra las empresas de IA, aprovechando una vulnerabilidad en el entrenamiento de IA.
La iniciativa afirma que, como señala Geoffrey Hinton, la inteligencia de máquina representa una amenaza para la humanidad. Buscan dañar los sistemas de inteligencia de máquina e invitan a los propietarios de sitios web a ayudar en esta causa retransmitiendo datos envenenados.
Además, se ha discutido sobre el uso de agua en los centros de datos de IA, comparándolo con el consumo de alimentos. Un análisis revela que el datacenter de xAI utiliza la misma cantidad de agua en un día que dos restaurantes de In-N-Out, lo que pone en perspectiva el uso de recursos en la industria de IA.
