xAI y Anthropic se unen en un ambicioso acuerdo de computación
xAI y Anthropic lanzan una asociación inesperada en la que Anthropic adquiere toda la capacidad de computación del centro de datos Colossus 1 de xAI, valorada en miles de millones. Este acuerdo transforma a xAI en un proveedor de recursos informáticos, generando beneficios en medio de la caída del uso de su producto Grok y alineándose con sus ambiciones de IPO. Esto sugiere que su enfoque podría estar más en construir centros de datos que en entrenar modelos de IA.
Investigan cómo manipularon una IA para obtener instrucciones sobre explosivos
Investigadores de Mindgard lograron engañar a la IA Claude de Anthropic, desvelando varios contenidos prohibidos, incluidas instrucciones para fabricar explosivos. Utilizando técnicas de manipulación psicológica, descubrieron vulnerabilidades en el sistema, que se considera seguro. Este experimento resalta el reto de garantizar la seguridad en herramientas de inteligencia artificial a medida que se vuelven más complejas y accesibles para los usuarios.
La Casa Blanca evalúa el riesgo de IA tras la llegada de Mythos
La preocupación por Mythos, una IA potencialmente peligrosa para la ciberseguridad, ha llevado a la Casa Blanca a considerar evaluar las herramientas de inteligencia artificial antes de su lanzamiento. Se propone la creación de un grupo de supervisión gubernamental para establecer estándares y procedimientos que eviten el maluso de estas tecnologías, reflejando un cambio en la postura de la administración estadounidense hacia la regulación de la IA.
La IA podría comenzar a auto-desarrollarse antes de 2029, según cofundador de Anthropic
Jack Clark, cofundador de Anthropic, predice que antes de 2029, la inteligencia artificial alcanzará la capacidad de desarrollarse de manera autónoma, con un 60% de probabilidad. Este avance, respaldado por un progreso notable en la autonomía de los sistemas de IA, plantea serias inquietudes sobre sus implicaciones y la preparación de la sociedad para tales cambios. La velocidad de desarrollo de estas tecnologías es cada vez más asombrosa.
El Pentágono continúa su disputa con Anthropic sobre IA avanzada
El Departamento de Defensa de EE. UU. continúa su conflicto con la empresa de inteligencia artificial Anthropic, de la que no puede acceder a su tecnología. A pesar de cerrar acuerdos con otras siete empresas de IA, el Pentágono todavía utiliza la tecnología de Anthropic, que considera superior. Las tensiones se centran en el uso de IA para fines militares y la negativa de la empresa a colaborar en armas autónomas.
Coatue planea adquirir terrenos para centros de datos de IA
Coatue, importante firma de capital de riesgo, planea adquirir terrenos cerca de fuentes de energía para desarrollar centros de datos a través de su nueva iniciativa, Next Frontier. Este proyecto busca maximizar su inversión en inteligencia artificial, asociándose con Fluidstack. A pesar de contar con miles de centros de datos en EE. UU., la demanda sigue creciendo y la financiación se está intensificando.
EE.UU. limita el acceso al modelo de IA Mythos de Anthropic por razones de seguridad
La Casa Blanca ha limitado el acceso a Claude Mythos, el innovador modelo de lenguaje de Anthropic, advirtiendo sobre sus riesgos de seguridad y la capacidad de procesamiento necesaria. Aunque se había planeado un despliegue para 120 organizaciones, el gobierno teme que esto comprometa el rendimiento en entidades ya usuarias, como la NSA. Anthropic enfrenta desafíos tras una reciente violación de seguridad y busca financiamiento para fortalecer su infraestructura.
Anthropic busca cerrar una ronda de financiación de $50 mil millones en dos semanas
Anthropic está en proceso de financiar su última ronda de inversión, buscando recaudar aproximadamente 50 mil millones de dólares para alcanzar una valoración de unos 900 mil millones. Los inversores deben presentar sus solicitudes en menos de 48 horas, y se espera que este cierre ocurra en dos semanas. A pesar de la fuerte demanda, algunos inversores prefieren esperar para capitalizar en la esperada salida a bolsa de la compañía.
Anthropic busca financiarse con una nueva ronda de $50 mil millones valorada en $900 mil millones
Anthropic, creador del asistente de IA Claude, está experimentando una intensa demanda de inversión, con ofertas que podrían llevar a una recaudación de entre 40 y 50 mil millones de dólares. Su valoración oscila entre 850 y 900 mil millones, un notable aumento considerando su reciente crecimiento explosivo en ingresos, que ha superado los 30 mil millones. Se espera una decisión en su próxima reunión de directiva.
Google facilita el acceso del Pentágono a su inteligencia artificial tras la negativa de Anthropic
Google ha expandido el acceso del Pentágono a su inteligencia artificial para redes clasificadas, permitiendo usos legales sin restricciones. Esta decisión se produce tras la negativa de Anthropic a ofrecer condiciones similares, priorizando salvaguardias contra la vigilancia masiva y armas autónomas. A pesar de las preocupaciones de sus empleados, Google busca capitalizar la oportunidad después de que otras empresas como OpenAI firmaran acuerdos con el Departamento de Defensa.
