León XIV busca prevenir que la inteligencia artificial (IA) amenace la esencia del ser humano. Su preocupación se centra en el riesgo de que la tecnología cause desempleo, afecte el pensamiento crítico y genere dependencia de las máquinas. Esta inquietud se refleja en su reciente encíclica, donde recibe el apoyo de Christopher Olah, cofundador de Anthropic.
Intervención de Christopher Olah
Durante la presentación de la encíclica en el Salón del Sínodo del Vaticano, Olah enfatizó que el desarrollo tecnológico no debe ser exclusivo de las empresas. Abogó por una mayor supervisión de líderes religiosos, gobiernos y la sociedad civil. Además, advirtió sobre el «peligro real» de que la IA provoque desempleo «a gran escala» y que su progreso esté limitado a «un puñado de naciones ricas».
Olah comentó: «Algunos podrían pensar que los asuntos de IA son mejor manejados por informáticos como yo. Se equivocan».
Compromiso de Anthropic con la ética
Fundada en 2021 por exmiembros de OpenAI, Anthropic manifiesta una preocupación genuina por la seguridad de la tecnología. Su CEO, Dario Amodei, ha expresado en múltiples ocasiones los riesgos de que la IA genere crisis de empleo o incluso amenace la supervivencia humana.
La compañía se ha mostrado más cautelosa que otras respecto al uso de IA con fines militares. Recientemente, se negó a permitir que el Pentágono utilizara su tecnología para sistemas de vigilancia y armamento autónomo. El Papa considera que delegar decisiones militares a algoritmos es «no lícito», ya que el juicio moral implica conciencia y responsabilidad.
Diferencias con otras empresas de IA
El testimonio de Olah y la postura de Anthropic sobre el uso de su tecnología la distinguen de gigantes como Google o OpenAI, que han preferido acuerdos con el Departamento de Defensa en lugar de rechazar colaboraciones.
Asimismo, Anthropic se preocupa por dotar a su chatbot, Claude, de valores éticos. Recientemente, organizó una cumbre con líderes cristianos para obtener asesoría sobre cómo abordar cuestiones éticas complejas en su tecnología, alejándose de Silicon Valley.
Resultados en la lucha contra la violencia
Los esfuerzos de Anthropic parecen estar dando frutos. Un estudio del Centro para la Lucha contra el Odio Digital (CCDH) reveló que Claude fue una de las pocas herramientas de IA que se negó a colaborar con usuarios que intentaban planificar actos violentos, a diferencia de otros chatbots populares como ChatGPT o Google Gemini.
