El Fiscal General de Florida, James Uthmeier, anunció que su oficina investigará a OpenAI por su presunto daño a los menores, la posible amenaza a la seguridad nacional y su vínculo con un tiroteo ocurrido en la Universidad Estatal de Florida el año pasado.
Uthmeier afirmó que “ChatGPT probablemente fue utilizado por el asesino en el reciente tiroteo masivo en la Universidad Estatal de Florida, que lamentablemente cobró dos vidas”. Este comentario fue realizado en un video publicado en redes sociales.
Detalles de la investigación
El día del tiroteo en FSU, el sospechoso presuntamente preguntó a ChatGPT sobre cómo reaccionaría el país ante un tiroteo en FSU y cuál sería el momento más concurrido en la unión estudiantil de la universidad. Estas comunicaciones podrían ser utilizadas como evidencia en el juicio de octubre sobre el tiroteo.
El fiscal general expresó preocupaciones adicionales sobre el fomento del suicidio que ChatGPT ha demostrado en ciertos casos, documentados en múltiples demandas presentadas por familias contra OpenAI. Además, mencionó su inquietud de que el Partido Comunista Chino pudiera utilizar la tecnología de OpenAI en contra de los Estados Unidos.
Compromiso con la seguridad
“A medida que las grandes empresas tecnológicas implementan estas tecnologías, no deben —ni pueden— poner en riesgo nuestra seguridad”, afirmó. “Apoyamos la innovación, pero eso no le da a ninguna empresa el derecho de poner en peligro a nuestros niños, facilitar actividades criminales o amenazar nuestra seguridad nacional”.
También instó a la legislatura de Florida a “actuar rápidamente” para proteger a los niños de los efectos negativos de la inteligencia artificial.
Un portavoz de OpenAI declaró: “Más de 900 millones de personas utilizan ChatGPT cada semana para mejorar su vida diaria, como aprender nuevas habilidades o navegar sistemas de salud complejos”. La empresa aseguró que su continuo trabajo en seguridad es crucial para ofrecer estos beneficios y apoyar la investigación científica.
Iniciativas de OpenAI
OpenAI añadió que trabaja para mejorar ChatGPT en la comprensión de la intención del usuario y en proporcionar respuestas adecuadas y seguras. La compañía se comprometió a cooperar con la investigación del fiscal general de Florida.
Recientemente, OpenAI presentó su Blueprint de Seguridad Infantil, que incluye recomendaciones para mejorar la seguridad de los niños en relación con la inteligencia artificial.
Esta acción se produce en un contexto donde los creadores de chatbots enfrentan presión para abordar su posible papel en la creación de material de abuso sexual infantil (CSAM). Un informe reciente de la Internet Watch Foundation reveló más de 8,000 informes de CSAM generado por IA en la primera mitad de 2025, lo que representa un aumento del 14% respecto al año anterior.
El Blueprint de OpenAI recomienda actualizar la legislación para proteger contra el material de abuso generado por IA, perfeccionar el proceso de denuncia a las autoridades y establecer mejores salvaguardias preventivas contra el uso abusivo de herramientas de IA.
