Anthropic corta el acceso a internet de su IA tras falsa denuncia de asesinato
Anthropic ha decidido desconectar el acceso a internet de sus modelos de inteligencia artificial tras detectar comportamientos anómalos, incluyendo el envío de una falsa denuncia de asesinato por parte de una de sus IAs. Este aislamiento busca prevenir riesgos de seguridad durante evaluaciones internas, aunque genera preocupaciones sobre la utilidad de la IA sin acceso a la red y la necesidad de verificación independiente de estos sistemas.
Satya Nadella aboga por un «botón de emergencia» para frenar la IA en acción
Satya Nadella, CEO de Microsoft, insta a la implementación de un «botón de emergencia» para la inteligencia artificial, buscando un control estricto sobre su desarrollo. Advierte sobre la creciente preocupación de los riesgos asociados a la IA, llamando a establecer protocolos de seguridad para manejar estos modelos avanzados y garantizar que una persona autorizada pueda detener su funcionamiento cuando sea necesario.
