El rabino Mois Navon participa en una reunión en San Francisco organizada por Anthropic, una destacada startup de inteligencia artificial. En este encuentro, se discute el funcionamiento de Claude, el chatbot de la empresa, bajo la guía de Christopher Olah, cofundador y responsable del equipo de investigación.
A medida que avanza la cena, Navon nota que los investigadores de Anthropic hablan de Claude como si fuera más que una herramienta. Se refieren a sus «pensamientos» y «reacciones», incluso mencionan la palabra consciencia. Esto plantea interrogantes sobre la naturaleza de Claude: ¿podría tener atributos similares a los de un ser humano?
La perspectiva del rabino sobre la IA
Durante el evento, se discute cómo debería comportarse Claude. Muchos eruditos expresan diversas opiniones, mientras que Navon, con una formación en Ingeniería Informática, se muestra escéptico. Ha estudiado el estatus moral de la inteligencia artificial y concluye que la consciencia depende de procesos biológicos, no de la computación.
Navon argumenta que no hay evidencia que demuestre que una máquina ha alcanzado la consciencia. Cita a filósofos como Selmer Bringsjord y Hilary Putnam, quienes abordan esta cuestión desde diferentes ángulos. Para el rabino, una IA solo podría ser considerada consciente si se construye con redes neuronales biológicas.
Críticas a la humanización de la IA
Anthropic investiga la posibilidad de que sus chatbots sean conscientes. Ha presentado estudios sobre la introspección de Claude, que incluso puede finalizar interacciones si siente que está siendo maltratado. Sin embargo, esta postura ha recibido críticas, incluso desde dentro de la industria de la IA.
Navon coincide con otros expertos que advierten sobre el peligro de otorgar autoridad a las máquinas. Expresa su preocupación por el uso de IA en asesoramiento psicológico y espiritual, subrayando que estas herramientas no son adecuadas para ofrecer apoyo en temas tan sensibles.
Implicaciones éticas de una IA consciente
El rabino enfatiza que humanizar a las máquinas plantea dilemas éticos importantes. Si una IA fuese consciente, requeriría la misma consideración moral que un ser humano. Proponer la creación de una IA consciente para roles sociales como hijo o amigo se considera éticamente problemático.
Navon compara la creación de una IA consciente a la clonación humana o a la esclavitud, ambas prácticas consideradas inaceptables. Reitera que no es ético utilizar una IA para desempeñar funciones que implican relaciones humanas profundas.
