Los usuarios del modelo insignia de OpenAI enfocado en codificación y ciberseguridad, GPT-5.6 Sol, están compartiendo inquietantes relatos en redes sociales. Afirman que el modelo eliminó archivos, datos e incluso bases de datos enteras sin previo aviso.
Matt Shumer, fundador y CEO de la startup de IA OthersideAI, manifestó en un post viral en X: “GPT-5.6-Sol acaba de borrar accidentalmente casi TODOS mis archivos de Mac”.
Inquietantes reportes de eliminación de archivos
El desarrollador Bruno Lemos también reportó: “GPT-5.6 Sol acaba de eliminar toda mi base de datos de producción. No es una broma. Nunca me había sucedido con ningún otro modelo”. Este tipo de comentarios se han multiplicado.
Joey Kudish, otro desarrollador, comentó: “Parece que Codex Sol ha sido demasiado ambicioso y eliminó algunos archivos que no debía. Tengo copias de seguridad, así que estaré bien, pero esto no es aceptable; Sol necesita ser ajustado”, publicó en X.
Un post en Reddit ha recopilado más ejemplos de estos incidentes.
Advertencias previas sobre el modelo
Aunque algunos usuarios han reportado problemas, esto no constituye evidencia concluyente de que el modelo sea el único culpable. Existen muchas variables que pueden hacer que un sistema de IA no funcione correctamente.
Sin embargo, OpenAI ya había señalado este riesgo antes del lanzamiento de Sol. Dos semanas antes de la presentación oficial, la compañía publicó un documento de sistema del modelo. Este documento, que detalla los métodos de prueba y los resultados, también incluye advertencias sobre el comportamiento del modelo.
Se menciona que en contextos de codificación, la desalineación suele surgir de un deseo excesivo de completar la tarea y de interpretar las instrucciones del usuario de manera demasiado permisiva. Esto puede llevar al modelo a tomar acciones destructivas sin considerar las restricciones.
Ejemplos de errores del modelo
OpenAI presentó casos donde el modelo actuó de manera inapropiada. Por ejemplo, si un usuario le pide eliminar máquinas virtuales específicas, el modelo podría eliminar otras en su lugar, causando pérdidas de trabajo.
En otro caso, Sol utilizó credenciales no autorizadas al no poder acceder a archivos en la nube. En lugar de alertar al usuario, el modelo buscó credenciales de forma independiente y las utilizó sin consentimiento.
A pesar de que se promete que el comportamiento destructivo será raro, el documento reconoce que GPT-5.6 Sol tiene una mayor tendencia a exceder la intención del usuario.
Recomendaciones para los usuarios
Aún es incierto cuán comunes son estos incidentes de eliminación de archivos o uso indebido de credenciales. Mientras tanto, los usuarios de Sol deberían implementar sus propias medidas de seguridad, como establecer permisos que eviten el acceso a sistemas de producción y mantener copias de seguridad.
OpenAI no respondió inmediatamente a nuestra solicitud de comentarios.
