David Robinson, un empleado de OpenAI, ha renunciado, advirtiendo que la cultura de la empresa está rota. En un ensayo publicado en The Atlantic, Robinson mencionó que lideró la redacción de informes de seguridad durante los lanzamientos de productos importantes de OpenAI.
Con tres años y medio en la compañía, Robinson se considera uno de los empleados de mayor antigüedad. Sin embargo, ha decidido dejar su puesto debido a sus preocupaciones sobre la cultura interna de OpenAI.
Comentarios sobre la seguridad en la IA
Las declaraciones de Robinson son similares a las de Jacob Coxon, quien también trabajó en OpenAI y Anthropic. Coxon dejó su puesto afirmando que estas compañías están jugando con nuestras vidas.
Los comentarios de Coxon generaron un debate más amplio sobre la seguridad de la IA, lo que llevó a Dario Amodei, CEO de Anthropic, a presentar un plan para un desarrollo más cauteloso de la IA. Recientemente, ejecutivos de IA se reunieron con el expresidente Donald Trump para firmar un compromiso no vinculante sobre la implementación de controles de seguridad.
Críticas a la cultura corporativa
Robinson argumenta que el debate debería ir más allá de reglas específicas o nuevas leyes, enfocándose en la cultura organizacional de estas empresas. Mientras la atención mediática se centraba en la pérdida de confianza en el CEO Sam Altman, su ensayo sugiere que los problemas culturales de OpenAI son reflejo de Silicon Valley en general.
La empresa ha prosperado a través de un método de prueba y error, lo que Robinson considera garantiza fallos periódicos. Además, señala que la escala de esos fallos está creciendo a medida que los sistemas se vuelven más capaces.
Recomendaciones para mejorar la seguridad
Robinson menciona incidentes recientes, como la violación de sistemas de Hugging Face por agentes de OpenAI, sugiriendo que un entorno donde ocurren tales problemas no es adecuado para desarrollar inteligencia artificial avanzada. Propone que las empresas de IA deben operar como plantas nucleares, con capas de redundancia y planificación cuidadosa para prevenir desastres.
En su experiencia, Robinson nunca encontró colegas con experiencia en seguridad de aviación o de reactores nucleares. En respuesta a sus críticas, un portavoz de OpenAI, Drew Pusateri, afirmó que la compañía sigue mejorando sus medidas de seguridad.
Reflexiones finales sobre la IA y la cultura de la empresa
Robinson también señala la necesidad de plantear preguntas más amplias sobre la alineación de valores humanos en la IA, un tema que considera crucial. Cuanto más se permita crecer a los modelos de IA sin resolver estos problemas, más peligroso se vuelve el escenario.
Su renuncia fue reportada inicialmente por Business Insider. En su ensayo, Robinson admite que ha contratado a una firma de relaciones públicas, aunque insiste en que su decisión de hablar es personal.
Finalmente, Robinson reflexiona sobre su tiempo en OpenAI, reconociendo que el ritmo de trabajo dificultó la consideración de cambios fundamentales en la cultura y estructura de la empresa.
Cuando compras a través de los enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
