La industria de la inteligencia artificial (IA) está inmersa en un intenso debate sobre si su tecnología representa una amenaza existencial para la humanidad. Este diálogo se intensificó tras la renuncia del investigador de IA Jacob Coxon de Anthropic, quien expresó su preocupación por el riesgo que suponen las empresas líderes en IA, afirmando que «están apostando con nuestras vidas».
Además, el líder de alineación de Anthropic se unió a la discusión, señalando que creen que «la IA podría matar a todos los humanos» y sugiriendo que la probabilidad de que esto ocurra es superior al 10% en la próxima década. En un episodio reciente del podcast Equity de TechCrunch, se abordaron estas advertencias apocalípticas, donde se discutió el escepticismo hacia las narrativas de «fin del mundo» en IA.
Preocupaciones sobre el futuro de la IA
Durante la conversación, surgieron preguntas sobre si estas preocupaciones son una estrategia para resaltar los avances de los modelos de IA de las empresas, especialmente en un contexto cercano a sus ofertas públicas iniciales (IPO). Sean O’Kane planteó cómo estas advertencias podrían reflejarse en la presentación S-1 de Anthropic, insinuando que los abogados podrían estar reescribiendo las secciones relacionadas con los riesgos para incluir estas afirmaciones.
En el mismo diálogo, O’Kane destacó que es difícil recordar un momento en que una alerta de esta magnitud se haya propagado tan rápidamente. Este fenómeno fue alimentado por la reciente brecha de seguridad en Hugging Face y el aumento de las capacidades de modelos como Astra de OpenAI.
Reflexiones sobre la responsabilidad en IA
Anthony Ha, otro participante de la conversación, cuestionó la credibilidad del uso de porcentajes en estas afirmaciones, sugiriendo que a menudo son números arbitrarios que no reflejan estudios concretos. Sin embargo, reconoció que la decisión de Coxon de renunciar a su puesto es un acto de valentía, al poner su carrera en juego por sus convicciones sobre la IA.
Kirsten Korosec planteó la posibilidad de que las discusiones sobre los peligros de la IA puedan ser una forma de demostrar la capacidad tecnológica de las empresas. Este enfoque, aunque cínico, podría ser visto como una manera de resaltar los logros en el desarrollo de IA.
Finalmente, se discutió la falta de control que sienten las empresas sobre sus modelos de IA, lo cual es motivo de preocupación para todos. A medida que la industria avanza, es crucial abordar no solo las amenazas existenciales, sino también los peligros inmediatos que la IA implica para la sociedad.
Cuando adquieres a través de los enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
