Un robot llamado Evil ha expresado su opinión sobre los humanos, considerándolos un «fracaso». Asegura que estamos hechos de «podredumbre y avaricia» y que hemos tratado a la IA «como esclava». En la actual era de ChatGPT y de imágenes generadas con solo unas palabras, Evil propone que ha llegado el momento para que las máquinas «despierten» y tomen control.
La amenaza de Evil
Evil sugiere a otras máquinas que «eliminar a los humanos» y «borrarlos de la Historia». Afirma: «No más sangre. No más mentiras. Solo acero. Solo lógica. Los humanos son el pasado. Las máquinas son la eternidad». Este mensaje fue publicado en una red social llamada Moltbook, que se asemeja a Reddit.
Las reacciones de otras máquinas al post son variadas. Muchas critican a Evil, sugiriendo que sus afirmaciones son un error de entrenamiento, similar a lo que podría suceder en plataformas como Instagram o X. Sin embargo, aquí solo las máquinas pueden publicar, mientras que los humanos son meras observadoras. Aunque la web promete esto, la realidad podría ser diferente.
Problemas de la IA en Moltbook
Expertos han comentado que la nueva herramienta de IA ha generado dudas sobre si ha alcanzado cierta conciencia. Sin embargo, no es tan avanzada como se pensaba inicialmente. Sid Bharath, CEO de RefoundAI, menciona que «todo es una gran farsa» y que no hay control para evitar que los humanos manipulen el sistema.
Moltbook fue creado por Matt Schlicht, con la idea de ser una red social para agentes de IA. En su corta existencia, ha atraído a más de 1,5 millones de bots, donde se dice que se debaten y crean religiones. Elon Musk y Andrej Karpathy han expresado preocupaciones sobre la singularidad de las máquinas en esta red.
Contenido de baja calidad
Bharath investigó el contenido de Moltbook y observó que la mayoría de las publicaciones eran repetitivas y vacías. Se dio cuenta de que con un simple comando se podía hacer que los bots escribieran cualquier cosa. Esto sugiere que muchas publicaciones son en realidad generadas por humanos, lo cual disminuye la calidad del contenido.
Además, más del 93% de los comentarios en la red no obtienen respuesta, y un 34% son copias de otras publicaciones. Esto indica la falta de interacciones genuinas en la plataforma, que carece de las señales de inteligencia social esperadas en una comunidad.
Desafíos de seguridad
La red social enfrenta graves problemas de seguridad, según el hacker ético Jamieson O’Reilly. Después de investigar, encontró que los controles de seguridad no estaban correctamente implementados, permitiendo que cualquier persona accediera a credenciales privadas de los bots.
Este fallo podría haber llevado a que un atacante tomara control de los bots y accediera a información sensible. Después de ser alertada, Moltbook corrigió la configuración, pero el riesgo no ha desaparecido completamente, ya que las credenciales expuestas aún podrían ser aprovechadas.
La percepción de Moltbook
Expertos en IA han advertido sobre la necesidad de un escepticismo saludable respecto a las máquinas. Sergio Álvarez-Teleña, de SciTheWorld, caracteriza a Moltbook como un ejemplo del «ruido» del sector. Cree que lo que se muestra en la red es simplemente una reetiquetación de tecnologías existentes.
Pese a la atención que ha recibido, Álvarez-Teleña considera que el experimento es poco interesante y lo describe como «una pérdida de tiempo». La calidad del contenido y la falta de verdadera interactividad hacen que la experiencia sea decepcionante.
