OpenAI busca proteger su inteligencia artificial de posibles usos indebidos por parte del Gobierno de Estados Unidos. La empresa, conocida por el desarrollo de ChatGPT, ha firmado un nuevo acuerdo con el Departamento de Defensa para evitar que su tecnología se utilice de manera intencionada para la vigilancia masiva.
Compromiso con las libertades civiles
El director ejecutivo de OpenAI, Sam Altman, enfatizó la importancia de proteger las libertades civiles de los estadounidenses. En una publicación en redes sociales, Altman destacó que este aspecto fue cuidadosamente considerado en el nuevo acuerdo, que también incluye el compromiso de que la IA de OpenAI no estará disponible para los servicios de inteligencia.
Este anuncio se produce poco después de que OpenAI autorizara al Pentágono a utilizar sus herramientas para fines legales. Sin embargo, el acuerdo original, valorado en 200 millones de dólares, fue criticado dentro de la empresa, ya que podría permitir el uso de su tecnología para crear armamento autónomo y sistemas de vigilancia masiva.
Reacciones y preocupaciones
Altman admitió en su publicación que la compañía se apresuró en hacer el anuncio del acuerdo anterior, reconociendo que la situación es compleja y requiere una comunicación más clara. Esta reflexión subraya la necesidad de un enfoque más cuidadoso en el manejo de la tecnología de IA.
La controversia en torno al acuerdo original se intensificó tras la declaración del Departamento de Defensa sobre la empresa Anthropic, que fue considerada una amenaza para la seguridad nacional por rechazar la posibilidad de que su tecnología se utilice para espiar a la población o para crear armas autónomas. Sin embargo, el nuevo comunicado de Altman no menciona cambios que prohíban al Pentágono utilizar la tecnología de OpenAI para la fabricación de armamento autónomo.
