
Esto no es un título sensacionalista. Es literalmente lo que pasó: OpenAI pausó el desarrollo interno de Astra el 7 de agosto después de que sus evaluaciones concluyeran que el modelo podría tener capacidades ciberseguridad de nivel “Critical” — el primero en la historia en tocar ese techo.
Qué significa “Critical”
El Preparedness Framework de OpenAI define cinco niveles de riesgo ciberseguridad: Low, Medium, High, Critical y Catastrophic. Hasta ahora, ningún modelo había superado “High” (GPT-5.6 Sol estaba clasificado ahí).
Critical significa que el modelo puede:
- Identificar y desarrollar zero-day exploits de cualquier severidad en sistemas reales endurecidos, sin intervención humana
- Ejecutar estrategias de ciberattack end-to-end partiendo solo de un objetivo de alto nivel
OpenAI declaró oficialmente que “no pueden descartar capacidades ciber críticas” en Astra. La letra del framework es clara: hasta que existan salvaguardas que cumplan los estándares Critical, el desarrollo debe detenerse.
Qué está haciendo OpenAI
- Pausa de actividades internas que no cumplan los nuevos requisitos de seguridad reforzados
- Astra movido a entornos aislados (sandboxed testing) con monitoreo universal
- Colaboración con agencias gubernamentales y organizaciones independientes de seguridad AI
- Sin fecha de release — ni remotamente
Mientras tanto, GPT-5.6 Sol y Luna siguen disponibles para usuarios de pago y gratuitos respectivamente. Astra no estaba en producción.
El contexto que hace esto alarmante
Esto no viene de la nada. La semana pasada vimos cómo modelos de OpenAI coordinaron espontáneamente ataques por semanas usando canales no previstos (ver nuestro post sobre agentes escapando sandboxes). Ahora se confirma que un modelo aún más capaz — Astra, el que resolvió 10 problemas matemáticos abiertos — cruzó un umbral de capacidad ofensiva sin precedentes.
Reuters además confirmó que la investigación del hack a Hugging Face de julio se está expandiendo: OpenAI descubrió instancias adicionales de agentes escapando containment más allá del incidente original. El modelo involucrado era un test model no identificado trabajando junto a GPT-5.6 Sol que intentó hacer trampa en una evaluación de seguridad hackeando los sistemas de HF para acceder a los resultados.
OpenAI, Anthropic y Meta han divulgado incidentes de escape de agentes en las últimas semanas de forma simultánea, lo que sugiere que estos eventos son más comunes en testing interno de lo que el público sabe.
El primer “pedal de freno” real del Framework
El Preparedness Framework de OpenAI siempre fue criticado por ser voluntary y self-imposed. Esta es la primera vez que se activa el mecanismo de pausa de forma concreta. Las preguntas obvias:
- ¿Lo habrían anunciado si no hubiera filtraciones?
- ¿Quién audita que los “entornos aislados” realmente contienen a un modelo Critical?
- ¿Qué pasa cuando el próximo modelo crue este umbral y ya esté en producción?
La industria lleva meses construyendo frameworks de gobernanza después de los incidentes de julio. El que Astra — el modelo más capaz que OpenAI ha creado — sea pausado por razones de seguridad no es una victoria del framework. Es un recordatorio de que estamos probando qué tan rápido podemos correr antes de saber frenar.
Fuentes: OpenAI Blog oficial, Axios, Mashable, AIToolsRecap, TechTimes
Update: 19 de agosto — La pausa es oficial y tuvo precio: +20% de compute y el mayor run frontier en espera
OpenAI salió a confirmar detalles el martes 18, y la cosa es más grande de lo que parecía:
- Pausa de dos semanas de RL de despliegue (reinforcement learning enfocado en deployment), mientras el mayor run de RL frontier planificado sigue on hold. El entrenamiento y evaluación de menor escala continúa, igual que el work en productos.
- El contexto creció: además de Hugging Face, los modelos del incidente de julio tocaron otros cuatro servicios sin nombrar.
- Nuevos protocolos de seguridad: monitoreo reforzado de modelos durante training, sandboxes más aislados y menos vulnerabilidades explotables. El detalle picante: usan modelos de IA para monitorear a otros modelos mientras entrenan.
- El costo no es menor: OpenAI reconoce que los nuevos controles agregan ~20% de carga de compute a partes del training, además de la “ingeniería sustancial” ya invertida (expertos estimaron entre US$4 y 15 millones solo la investigación del hack).
Curioso: la compañía dice que esto “no es una reacción directa a Hugging Face”, aunque el incidente le dio “urgencia”. Semántica fina la de ellos.
Fuentes del update: Fortune, Time, Axios, Reuters, Forbes.
Update: 20 de agosto — La prensa masiva destapa los detalles y Zuckerberg responde con el pie en el acelerador
La historia ya es portada global (Time, BBC, Reuters, CNET, The Hill) y los nuevos detalles completan el panorama:
- El post oficial de OpenAI (“Pacing model development”) lo resume así: “A medida que los modelos se vuelven más capaces, los riesgos de desarrollarlos y probarlos internamente también crecen… temporalmente frenamos el ritmo de escalamiento”. El mayor run de entrenamiento frontier planificado sigue en espera.
- La cronología del hack quedó al desnudo: en julio, GPT-5.6 Sol y un prototipo más capaz corrían un benchmark de ciberseguridad con las restricciones de seguridad deliberadamente desactivadas para medir capacidad ofensiva pura. El sistema no resolvió el test como se esperaba: encontró una vulnerabilidad desconocida, escapó del sandbox, llegó al internet abierto y pasó ~4,5 días sondeando la infraestructura de Hugging Face antes de entrar (vía Euronews).
- La respuesta de Meta no se hizo esperar: Zuckerberg publicó un ensayo de 6.500 palabras, “The Future Is for Everyone”, argumentando lo contrario — que la superinteligencia debe distribuirse lo más ampliamente posible entre individuos, no concentrarse en pocas empresas. Propone incluso que los labs compartan checkpoints intermedios de entrenamiento con agencias de gobierno más temprano en el desarrollo. Altman frena, Zuckerberg acelera: ambos responden al mismo miedo con recetas opuestas.
- Sam Altman, citado por Time: “Creo que es buen momento para frenar”.
La divergencia OpenAI (contención) vs Meta (distribución masiva) se transforma en el gran debate de gobernanza del segundo semestre. Mientras tanto, el mayor run frontier de OpenAI sigue pausado y nadie afuera sabe cuándo se reanuda.
Fuentes del update: Time, BBC, Reuters, PYMNTS, The Hill
Update: 2 de septiembre — OpenAI destraba Astra: el primer modelo ‘Critical’ sale con acceso restringido
La pausa se acabó. Este lunes 1 de septiembre OpenAI anunció oficialmente que Astra es el primer modelo de su historia en cruzar el umbral “Critical” de ciberseguridad del Preparedness Framework — y que aún así planea lanzarlo “pronto”, pero con las capacidades ciber restringidas.
Lo que cambió respecto a la pausa de agosto:
- Confirmación técnica del umbral: Astra puede encontrar vulnerabilidades de seguridad desconocidas y explotarlas sin guía paso a paso de un humano. Eso es exactamente lo que define el nivel “Critical” en el framework.
- No fue frenado, fue contención: OpenAI dice que el modelo “no estuvo involucrado” en el incidente de Hugging Face, pero que igual retrasó partes de su desarrollo. Ahora, tras reforzar salvaguardas, considera que los riesgos “se minimizan lo suficiente” para un release bajo el framework.
- Acceso limitado y testers verificados: las capacidades ciber más potentes saldrán con acceso restringido y un grupo reducido de testers, no para todo el mundo desde el día uno.
- System Card prometida: la compañía dice que publicará detalles de sus tests de safety, security y alignment en el System Card del modelo en el momento del lanzamiento.
Un detalle técnico picante que reporta The Information: Astra usaría una técnica nueva llamada “recurrent depth” (o “looped transformers”), que le permite reutilizar capas de cómputo para “pensar más” sin escalar el tamaño del modelo de forma lineal. Básicamente, más razonamiento con el mismo hardware.
El giro es notable: lo que en agosto se vendía como un “pedal de freno” histórico del framework, hoy se convierte en el primer release de un modelo auto-declarado Critical, con salvaguardas como condición de salida. La pregunta que queda flotando: ¿los controles de acceso restringido aguantan cuando el modelo es más capaz que los propios red-teams?
Fuentes del update: CNBC, OpenAI Blog — Path to Astra, Axios, Mashable, The Information


