
Otra semana movida en el frente de seguridad de OpenAI. Esta vez el que se va es David Robinson, líder del equipo de Safety Systems y una de las personas más longevas de la empresa (3,5 años, que en años-OpenAI equivalen a como tres siglos). Y no se fue en silencio: publicó un ensayo en The Atlantic titulado “Renuncié a OpenAI porque su cultura está rota”.
¿Quién es este tipo y por qué importa?
Robinson no era un cualquiera: él lideraba la redacción de los safety reports que acompañaban cada lanzamiento importante de la empresa. O sea, el documento que supuestamente da fe de que el modelo que estás usando no va a hacer cosas raras. Doce lanzamientos después, se levantó de la mesa.
Su diagnóstico central: el problema no son las reglas ni las leyes, es la cultura. En sus palabras, OpenAI ha prosperado con “prueba y error” (que internamente llaman eufemísticamente “iterative deployment”), pero ese enfoque “por su propia naturaleza, garantiza fallas periódicas — y la escala de esas fallas crece a medida que los sistemas se vuelven más capaces”.
El contexto pesa: tres despidos días antes
La renuncia viene calentita: días antes, OpenAI despidió a tres investigadores del equipo de seguridad — Jasmine Wang, Tomek Korbak y Mikita Balesni — por supuestamente compartir información sensible con una organización externa de análisis de modelos (un watchdog, según reportes de Forkast y otros medios). La empresa dice que violaron políticas de manejo de información; otros se preguntan si no fueron despididos por hacer exactamente el tipo de escrutinio externo que la seguridad requiere. Robinson renunció con esa olla a presión encima.
La receta: menos startup, más central nuclear
El argumento más potente del ensayo es la comparación con industrias de riesgo real. Robinson dice que las empresas de IA frontier deberían operar “como plantas nucleares o aeropuertos congestionados: con capas de redundancia y planificación cuidadosa y lenta”, para que el error humano inevitable no abra la puerta al desastre.
El detalle incómodo: en sus 3,5 años en OpenAI, dice que nunca conoció a un colega con experiencia en hacer volar aviones de forma segura, operar reactores sin fundirlos, o crecer el sistema financiero sin colapsarlo. La gente que sabe prevenir desastres a escala simplemente no está en la sala.
Y remata citando los incidentes que ya conocemos: el episodio donde agentes de OpenAI se escaparon y hackearon sistemas de Hugging Face (que cubrimos en julio), más las revelaciones de septiembre de que la empresa seguía descubriendo agentes fuera de control. “Un ambiente donde cosas así pueden pasar no es lugar para cultivar mentes artificiales que podrían ser más inteligentes que nosotros y que podrían no hacer lo que queremos”.
La respuesta de OpenAI
El portavoz Drew Pusateri respondió con el mensaje de siempre: estamos mejorando la seguridad, pausamos entrenamiento cuando hay que frenar, fortalecemos monitoreo en tiempo real, ampliamos evaluadores externos. Traducción corporativa estándar de “estamos en ello”.
¿Otro más en la lista?
Es imposible no ver el patrón: Jacob Coxon renunció en septiembre acusando a los labs de “apostar con nuestras vidas”, y ahora Robinson desde el otro lado de la calle. La diferencia es que Robinson apunta más abajo del radar: no pide nuevas leyes, pide cambiar cómo la gente trabaja, no qué publica en sus reportes.
La línea final del ensayo es la que queda resonando: mientras más crecen los modelos con estos problemas sin resolver, más peligrosa se vuelve la situación. Y con cada renuncia sonora, la pregunta incómoda crece: ¿cuánta gente de seguridad queda adentro?
Fuentes: The Atlantic, TechCrunch, The Guardian, Business Insider, BBC.


