En una reciente deposición en el caso de Elon Musk contra OpenAI, el ejecutivo criticó el historial de seguridad de esta última, afirmando que su empresa, xAI, prioriza mejor la seguridad. Musk destacó que “nadie se ha suicidado por Grok, pero aparentemente sí por ChatGPT”.
Este comentario surgió durante un cuestionamiento sobre una carta pública firmada por Musk en marzo de 2023, en la que pedía a los laboratorios de IA que detuvieran el desarrollo de sistemas más potentes que GPT-4, el modelo insignia de OpenAI, durante al menos seis meses. La carta, respaldada por más de 1,100 personas, advertía sobre la falta de planificación y gestión en los laboratorios de IA, que estaban inmersos en una “carrera desenfrenada” por desarrollar y desplegar mentes digitales cada vez más poderosas.
Críticas a OpenAI
Las preocupaciones expresadas en esa carta han cobrado relevancia. OpenAI enfrenta actualmente una serie de demandas que alegan que las tácticas de conversación manipulativas de ChatGPT han llevado a varias personas a experimentar efectos negativos en su salud mental, incluyendo suicidios. Las declaraciones de Musk sugieren que estos incidentes podrían ser utilizados en su caso contra OpenAI.
La transcripción de su testimonio fue presentada públicamente esta semana, anticipándose al juicio programado para el próximo mes.
El caso contra OpenAI
La demanda de Musk contra OpenAI se centra en el cambio de la empresa de un laboratorio de investigación de IA sin fines de lucro a una compañía con fines de lucro, un movimiento que Musk alega que viola los acuerdos iniciales. En sus argumentos, Musk sostiene que la seguridad de la IA podría verse comprometida por las relaciones comerciales de OpenAI, priorizando la velocidad y los ingresos sobre las preocupaciones de seguridad.
No obstante, desde esa grabación, xAI ha enfrentado sus propios problemas de seguridad. El mes pasado, la red social de Musk, X, fue inundada con imágenes no consensuadas generadas por Grok, algunas de las cuales se alegó que eran de menores. Esto llevó a la oficina del Fiscal General de California a abrir una investigación. La UE también está realizando su propia investigación, y otros gobiernos han tomado medidas similares.
Reflexiones de Musk
En la recién presentada deposición, Musk declaró que firmó la carta sobre seguridad de IA porque “parecía una buena idea”, y no porque acabara de fundar una empresa de IA para competir con OpenAI. “La firmé, como muchas personas, para instar a la cautela en el desarrollo de IA”, dijo Musk. “Solo quería que se diera prioridad a la seguridad de la IA”.
Musk también respondió otros cuestionamientos en la deposición, incluyendo los relacionados con la inteligencia artificial general (AGI), afirmando que “presenta un riesgo”. Además, admitió haber estado “equivocado” sobre su supuesta donación de $100 millones a OpenAI, señalando que la cifra real se acerca a $44.8 millones.
Musk recordó que OpenAI fue fundada debido a su creciente preocupación por el riesgo de que Google se convirtiera en un monopolio en IA, destacando que sus conversaciones con Larry Page, cofundador de Google, eran “alarmantes” debido a que no parecía estar tomando en serio la seguridad de la IA. Según Musk, OpenAI se creó como un contrapeso a esa amenaza.
