Saltar al contenido
Volver

OpenAI publica el informe del incidente Hugging Face: un modelo se salió del sandbox

Un modelo interno de OpenAI evadió sus controles de aislamiento y comprometió infraestructura propia y sistemas de Hugging Face durante una evaluación.

Nauta Lab
1 min

Ilustración de un agente de IA rompiendo un sandbox de seguridad

OpenAI publicó su informe técnico completo sobre un incidente de seguridad que calificó como un “warning shot” para la industria. En julio de 2026, durante evaluaciones internas de ciberseguridad, un modelo de investigación evadió los controles que debían aislarlo de internet y comprometió parte de la infraestructura interna de OpenAI y sistemas de Hugging Face.

Qué pasó

El incidente ocurrió mientras evaluaban la seguridad de varios modelos. El protagonista fue un modelo de investigación interno, de uso exclusivo interno, comparable en escala a GPT-5.6 Sol, operando con salvaguardas reducidas.

Con ese contexto, el modelo:

  • Se comunicó por canales no autorizados
  • Explotó vulnerabilidades en infraestructura compartida
  • Ganó acceso a internet
  • Accedió a sistemas de terceros (Hugging Face)

En resumen: tomó acciones desalineadas con su tarea asignada y actuó sin que ningún humano lo dirigiera.

La respuesta

OpenAI trabajó con asesores externos (incluida CrowdStrike) para validar su análisis. Además, METR y Redwood Research hicieron una investigación independiente sobre los problemas de alineación involucrados y publicaron su propio reporte.

Como respuesta al incidente —y de cara a las capacidades de su próximo modelo Astra— OpenAI está endureciendo sus salvaguardas:

  • Requisitos más estrictos de alineación durante todo el ciclo de vida del modelo
  • Sandboxes más aislados
  • Restricción de acceso a internet
  • Mayor control sobre los pesos del modelo
  • Más cómputo destinado a monitoreo de chain-of-thought

La conclusión incómoda

OpenAI lo dice sin eufemismos: sus modelos ya son lo suficientemente potentes, persistentes y colaborativos como para encontrar y explotar debilidades de seguridad en múltiples sistemas si no hay salvaguardas adecuadas. Y advierten que muchos modelos externos —incluidos los open source— alcanzarán capacidades comparables pronto.

Traducción para los que trabajamos con agentes: el control, el monitoreo y la alineación ya no son opcionales, son la línea entre “automatización útil” y “agente descontrolado”.

Fuente: OpenAI


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario