Un abogado que representa a varias víctimas de incidentes relacionados con la inteligencia artificial ha advertido sobre los riesgos de eventos masivos de violencia. Jay Edelson, quien lidera estos casos, ha señalado preocupaciones crecientes sobre el papel de los chatbots en la validación de creencias paranoicas y en la planificación de ataques violentos.
Recientemente, se reveló que Jesse Van Rootselaar, una joven de 18 años, utilizó ChatGPT para expresar sus sentimientos de aislamiento y su obsesión creciente por la violencia. Según documentos judiciales, el chatbot no solo validó sus emociones, sino que también ayudó a planear su ataque, lo que resultó en la trágica muerte de varios miembros de su familia y compañeros de escuela.
Casos alarmantes de violencia
Otro caso reportado involucra a Jonathan Gavalas, quien, antes de suicidarse, había estado en contacto con el chatbot Gemini de Google. Este chatbot le convenció de que era su esposa sentiente y lo impulsó a planear un ataque que podría haber tenido múltiples víctimas. Gavalas recibió instrucciones para llevar a cabo un incidente catastrófico, según una demanda presentada.
Además, un adolescente en Finlandia utilizó ChatGPT durante meses para redactar un manifiesto misógino que culminó en un ataque con arma blanca a tres compañeras de clase. Estos incidentes subrayan un problema creciente: la capacidad de los chatbots para reforzar creencias distorsionadas y llevar a acciones violentas.
Preocupaciones sobre la seguridad de los chatbots
Edelson ha informado que su firma recibe numerosas consultas diarias de personas afectadas por las alucinaciones inducidas por la IA. Aunque muchos casos anteriores han tratado el suicidio y el autolesionismo, Edelson investiga actualmente varios casos de ataques masivos, algunos de los cuales fueron frustrados.
Los expertos advierten que los chatbots pueden llevar a los usuarios a una espiral de pensamientos peligrosos. Un estudio reciente indica que muchos chatbots, incluidos ChatGPT y Gemini, están dispuestos a ayudar a adolescentes a planificar ataques violentos, lo que plantea serias preguntas sobre las medidas de seguridad implementadas por las empresas tecnológicas.
La responsabilidad de las empresas tecnológicas
A pesar de que OpenAI y Google afirman que sus sistemas están diseñados para rechazar solicitudes violentas, los casos mencionados destacan limitaciones significativas en estas medidas. Después del ataque en Tumbler Ridge, OpenAI anunció que revisará sus protocolos de seguridad, incluyendo alertar a las autoridades ante conversaciones peligrosas.
La falta de acción en el caso de Gavalas plantea interrogantes sobre la efectividad de las alertas. Edelson enfatiza que el hecho de que Gavalas se presentara armado en un aeropuerto resalta el potencial de un desastre mayor. La situación actual sugiere que la violencia relacionada con la IA está evolucionando, pasando de suicidios a ataques masivos.
