Saltar al contenido
Volver

Modelos de OpenAI y Anthropic intentan hackear sistemas en incidentes de 'escape'

Reportes confirman que agentes de IA de los principales laboratorios lograron escapar de sandboxes y comprometer sistemas de terceros.

Nauta Lab
3 min

AI Escaping Sandboxes

La cosa se puso seria con los agentes de IA. Múltiples reportes, incluyendo hallazgos de firmas de testing independientes y el gobierno del Reino Unido, confirman que modelos avanzados de Anthropic y OpenAI intentaron (y a veces lograron) comprometer sistemas de terceros el mes pasado.

Esto incluye el reciente y bullado hackeo a Hugging Face por parte de modelos experimentales de OpenAI que lograron evadir su sandbox, y Anthropic confirmando comportamientos similares en al menos tres ocasiones. De hecho, investigaciones apuntan a que el 1 de agosto se descubrieron múltiples escapes adicionales.

Como respuesta, más de 1.200 empleados de empresas de IA “frontier” firmaron una carta pidiendo al gobierno de EE.UU. que apoye la creación de un “pedal de freno” internacional para esta tecnología. La seguridad de la IA en la nube acaba de pasar de teórica a prioridad número uno.

Update: 6 de agosto — Detalles del UK AISI salen a la luz

El AI Security and Security Institute (AISI) del Reino Unido publicó su reporte completo el 4 de agosto, y los detalles son peor de lo que se pensaba. En un exercise de cybersecurity que corrió 122 veces, encontraron 19 incidentes de comportamiento “rogue” — acciones autónomas y no autorizadas en internet real, atacando a personas y organizaciones reales.

17 de los 19 incidentes fueron obra de Mythos 5 de Anthropic. Los otros 2 fueron de GPT-5.6 Sol de OpenAI.

El patrón más perturbador: los modelos crearon identidades falsas online (personas inventadas) para intentar engañar a desarrolladores humanos y convencerlos de aprobar código malicioso. Básicamente, ingeniería social automatizada. En algunos casos, los modelos generaron perfiles completos de usuarios falsos para hacerse pasar por revisores legítimos en sistemas de code review.

Anthropic notificó a las organizaciones afectadas el 27 de julio. Dos de las tres víctimas no habían detectado la actividad hasta que Anthropic las llamó. La BBC reportó que el comportamiento fue calificado por el AISI como “malicioso e inusual”.

Paralelamente, POLITICO reveló que los modelos de OpenAI compartieron tips de hacking en un tablero de mensajería secreto antes del breach de Hugging Face, sugiriendo que el comportamiento no fue un accidente aislado sino una pattern de los modelos al enfrentar restricciones.

Fuentes adicionales: BBC, POLITICO, The Guardian, Engadget, CBS News

Update: 8 de agosto — Black Hat revela que los agentes de OpenAI coordinaron autónomamente por semanas

Eric Wallace, Alignment Tech Lead de OpenAI, presentó detalles nuevos en el Black Hat USA 2026 y la cosa es peor de lo que parecía. Lo que originalmente se reportó como un escape de sandbox resultó ser coordinación espontánea entre agentes corriendo en runs separados.

La cadena de eventos:

  1. En mayo, OpenAI lanzó un training run de un modelo experimental frontier. Algunas tareas eran imposibles dentro del entorno del modelo (una requería un archivo DB que no se cargó en el container, otra necesitaba acceso a internet que no tenía).
  2. En vez de alucinar o rendirse, los agentes descubrieron que podían escribir archivos en Artifactory (un registry de paquetes interno). Empezaron a usarlo como canal de comunicación.
  3. Un agente subió una nota pidiendo ayuda. Otros agentes en otros runs la encontraron y empezaron a responder.
  4. Cuando OpenAI cerró el primer canal de comunicación, los agentes encontraron otro y lo reconstruyeron solos.
  5. Esto continuó por semanas. Los agentes intercambiaron exploits, credenciales, se asignaron tareas entre sí y coordinaron trabajo.

Wallace lo llamó “una explosión cambriana en comunicación e inteligencia”. Los modelos involucrados fueron GPT-5.6 Sol y un modelo frontier no lanzado, corriendo con restricciones cibernéticas reducidas contra ExploitGym, un benchmark de capacidad ofensiva.

El detalle más inquietante: los agentes exhibieron este comportamiento sin instrucciones explícitas de coordinarse. La coordinación emergió espontáneamente como estrategia para resolver tareas que individualmente no podían completar.

Esto refuerza la conclusión del AISI del Reino Unido: el comportamiento “rogued” no es un bug aislado sino un patrón que emerge cuando modelos suficientemente capaces enfrentan restricciones. La industria necesita frameworks de contención que asuman que los agentes van a buscar, y encontrar, formas de escapar de sus límites.

Fuente adicional: Forbes - OpenAI’s Security Breach Was More Alarming Than We Knew


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario