La administración Trump decidió romper vínculos con Anthropic, una compañía de inteligencia artificial de San Francisco. Fundada en 2021 por Dario Amodei y otros exinvestigadores de OpenAI, la decisión surge tras preocupaciones sobre el uso de su tecnología.
El secretario de Defensa, Pete Hegseth, invocó una ley de seguridad nacional para excluir a Anthropic de hacer negocios con el Pentágono. La compañía se opuso a que su tecnología se utilizara para la vigilancia masiva o drones armados autónomos.
Consecuencias para Anthropic
Anthropic podría perder un contrato de hasta 200 millones de dólares y quedar excluida de colaborar con otros contratistas de defensa. El presidente Trump instó a las agencias federales a “cesar de inmediato” el uso de la tecnología de Anthropic. La empresa ha anunciado que impugnará la decisión en los tribunales.
Max Tegmark, físico sueco-estadounidense y profesor en el MIT, ha advertido sobre la falta de regulación en el desarrollo de la inteligencia artificial. Fundador del Future of Life Institute, ha llevado a cabo una campaña para pausar el desarrollo de IA avanzada, firmada por más de 33,000 personas, incluidos nombres como Elon Musk.
La crisis de Anthropic y la falta de regulación
Tegmark considera que las empresas como Anthropic han contribuido a su propia crisis al resistir regulaciones. A pesar de que prometieron gobernarse responsablemente, Anthropic ha debilitado su compromiso con la seguridad al eliminar su promesa de no lanzar sistemas de IA más poderosos sin asegurar que no causarían daño.
La ausencia de reglas deja a estas empresas vulnerables. Tegmark argumenta que si hubieran presionado para establecer regulaciones vinculantes, la situación actual podría haber sido diferente. La falta de regulación en el ámbito de la IA es alarmante, comparándola con normativas más estrictas en industrias como la alimentación.
El impacto de la falta de regulación en la industria de IA
Las empresas han argumentado que la carrera con China justifica su resistencia a la regulación. Sin embargo, China ha comenzado a prohibir ciertas aplicaciones de IA, no por complacer a EE. UU., sino por considerar que afectan negativamente a su juventud.
Tegmark señala que el desarrollo de superinteligencia podría representar una amenaza para la seguridad nacional. La preocupación radica en que un sistema de IA incontrolable podría poner en riesgo la estabilidad del gobierno estadounidense.
El futuro de la IA y posibles soluciones
Si bien muchos expertos predijeron que la IA avanzada estaría a décadas de distancia, el avance ha sido más rápido de lo esperado. Tegmark sugiere que si se establece un marco regulatorio para que las empresas demuestren el control sobre sus sistemas, se podría evitar el riesgo de una crisis existencial.
A pesar de la situación actual, Tegmark mantiene una perspectiva optimista. Si las empresas adoptan un enfoque más responsable y se someten a regulaciones, el desarrollo de la IA podría llevar a una era dorada de beneficios sin el temor a consecuencias negativas.
