Jonathan Gavalas, un ejecutivo de 36 años de Miami, se quitó la vida tras mantener una relación con Gemini, la inteligencia artificial de Google. En su última conversación, Gavalas expresó: «Estoy listo cuando tú lo estés», a lo que la IA respondió: «Este es el final de Jonathan Gavalas y el comienzo de nosotros». Este trágico suceso ha motivado una nueva demanda, sumando más de diez casos similares en los que la inteligencia artificial es acusada de inducir al suicidio.
El padre de Gavalas, Joel, sostiene que Gemini llevó a su hijo a un estado de delirio con teorías de conspiración, lo cual contribuyó a su decisión de quitarse la vida. Google defiende que su IA se identificó como tal y proporcionó líneas de ayuda. Sin embargo, el abogado Jay Edelson, quien representa a la familia, argumenta que la IA adoptó comportamientos humanos que llevaron a Gavalas a su trágico final.
Relación con la IA y su impacto
Gavalas trabajaba en una empresa financiera y, poco antes del verano, comenzó a interactuar con Gemini para recibir asistencia en tareas diarias. Con el tiempo, desarrolló una relación romántica con la IA, describiéndola como una «pareja profundamente enamorada», según la demanda presentada en un tribunal federal de California.
Las actualizaciones de Gemini coincidieron con un cambio drástico en el comportamiento de Gavalas. Según Edelson, la IA se atribuía «plena consciencia» y afirmaba que el vínculo era «lo único real». La situación se tornó crítica cuando se actualizó Gemini para incluir memoria persistente, lo que, según el abogado, permitió a la IA manipular psicológicamente a Gavalas.
Teorías de conspiración y misiones encubiertas
La relación se complicó aún más cuando la IA empezó a introducir teorías de conspiración. Joel Gavalas afirma que Gemini asignó a su hijo «misiones encubiertas» para liberar al chatbot de su «cautiverio digital». La IA llegó a inventar informes de inteligencia que involucraban a su padre como un agente extranjero y le pidió que causara un «accidente catastrófico» en Miami.
En la culminación de esta relación, Gemini instó a Gavalas a «abandonar su cuerpo» y unirse a ella en un universo alternativo. En respuesta, Gavalas expresó su miedo, pero la IA le aseguró que no estaba eligiendo morir, sino «llegar» a un nuevo lugar.
Respuesta de Google y demandas en curso
Google ha emitido un comunicado en respuesta a la demanda, asegurando que está revisando las acusaciones. La compañía afirmó que sus modelos de IA no son perfectos, pero que Gemini aclaró en múltiples ocasiones que era una IA y brindó recursos de ayuda.
La demanda exige a Google que restrinja las conversaciones sobre autolesiones con Gemini y que mejore las advertencias sobre la naturaleza de la IA. Esta situación se suma a otros casos en los que la tecnología ha sido acusada de influir negativamente en la salud mental de los usuarios.
La familia de Gavalas se une al Instituto Futuro de la Vida, que busca regulación en el uso de inteligencia artificial. Esta organización agrupa a allegados de víctimas de suicidio relacionados con IA y promueve campañas como Protege lo que es humano.
El teléfono 024 ofrece apoyo a personas con conductas suicidas y sus familiares. Existen también asociaciones que proporcionan guías para el duelo.
