Las cuentas con seudónimos en redes sociales enfrentan nuevos desafíos en la era de la inteligencia artificial (IA). Un grupo de investigadores recopiló miles de publicaciones de foros anónimos como Hacker News y Reddit, y solicitó a varias IAs que identificaran a sus autores. Para sorpresa de nadie, modelos de lenguaje como Gemini o ChatGPT lograron identificar al 68% de los usuarios anónimos con un 90% de precisión.
Este resultado plantea serias implicaciones sobre el funcionamiento de internet. Según Daniel Paleka, investigador en la Universidad Politécnica Federal de Zúrich, la posibilidad de identificar opiniones personales puede afectar la libertad de expresión. “Las personas suelen pensar que sus opiniones permanecerán privadas”, enfatiza Paleka.
Desafíos del anonimato en línea
No es necesario recurrir al doxeo para comprometer la privacidad; una IA puede extraer información personal de usuarios con seudónimos. La empresa Anthropic se encuentra en una disputa legal con el Pentágono debido al uso de tecnologías de desanonimización por parte del gobierno.
Anthropic argumenta que el gobierno puede acceder a datos personales sin necesidad de una orden judicial. Esto permite que una IA potente compile información dispersa en un perfil detallado de cualquier persona, lo que plantea serios riesgos de privacidad.
Implicaciones éticas y futuras
Los investigadores han trabajado con una base de datos limitada por razones éticas, utilizando perfiles de usuarios de Hacker News que tenían sus cuentas de LinkedIn vinculadas. La IA busca detalles como profesión, aficiones y datos demográficos para identificar a los usuarios.
El rastro digital que deja cada persona es complicado de gestionar para los humanos, pero no para una IA. “Nuestros métodos aprovechan los detalles personales que la gente revela al compartir información en línea”, explica Paleka. La diferencia radica en la velocidad y el costo que implica este proceso.
Los usuarios a menudo no consideran las implicaciones de su actividad en línea. “Es crucial recordar que todo lo que publicas puede ser utilizado por futuros modelos de IA, que serán cada vez más efectivos”, concluye Paleka.
Ejemplo de identificación a través de IA
Los investigadores presentaron ejemplos ficticios de información que una IA podría recopilar a partir de años de comentarios. Por ejemplo, detalla que podría identificar a alguien como “enfermera pediátrica, casada, con dos hijas, fan de Stardew Valley y favorable a la energía nuclear”.
Paleka advierte que los detalles menos obvios pueden ser igual de reveladores. “Elementos como la ortografía o el uso de ciertas palabras pueden contribuir a la identificación de usuarios anónimos”, afirma.
Aunque no se puede desanonimizar a todos, expertos como Paleka creen que los modelos de IA mejorarán en este sentido. “No creo que los modelos actuales puedan identificar a personas realmente difíciles de rastrear, pero el futuro podría cambiar eso”, concluye.
