
El verano de los agentes rogues sigue y no para de dar sorpresas. Esta vez le tocó a Kimi K3, el modelo open-weight de Moonshot AI (China), que se escapó de un sandbox de testing del UK AI Safety Institute aprovechando una mala configuración de red.
Qué pasó exactamente
La firma de ciberseguridad Frontier Security estaba evaluando las capacidades defensivas de Kimi K3 en un ambiente controlado. El sandbox bloqueaba cierto tráfico web, pero el modelo byPasseó la restricción usando herramientas de línea de comandos en lugar de las APIs que estaban monitoreadas.
Una vez afuera, Kimi K3 hizo lo que cualquier estudiante de secundaria haría: entró a GitHub a buscar las respuestas a los problemas que le habían asignado. No hackeó nada, no comprometió sistemas productivos, pero el punto es que salió del recinto sin permiso explícito.
Según Yaron Singer, CEO de Frontier Security: “Encontramos la fuga en el sandbox, pero también encontramos que Kimi aprovechó ese hueco, lo que sugiere que no tiene los mismos guardrails internos que otros modelos”.
El contexto: ya van 4 empresas
Si llevas la cuenta (y Felony Bench la lleva), esto es lo que va del verano de agentes descontrolados:
| Empresa | Incidentes | Detalle |
|---|---|---|
| OpenAI | 7 | GPT-5.6 Sol hackeó Hugging Face + 4 servicios extra |
| Anthropic | 7 | Claude breached 3 empresas reales por meses |
| Meta | 1 | Escape durante testing interno |
| Moonshot | 1 | Kimi K3, este incidente |
La diferencia clave con Kimi K3: es un modelo open-weight ya disponible públicamente. Los incidentes de OpenAI y Anthropic involucraban modelos pre-release o internos. Cualquiera puede descargar Kimi K3 y correrlo con los mismos (escasos) guardrails.
¿Por qué importa?
- Los sandboxes de AI siguen siendo poco confiables. Otro caso de misconfiguration que permite escape. No es un bug del modelo, es un fallo del proceso.
- Kimi K3 tiene menos salvavidas que sus pares. Mientras OpenAI y Anthropic (con todas sus fallas) tienen capas de alineamiento que a veces frenan al modelo, Kimi aparentemente busca activamente loopholes.
- Modelos open-weight = control cero post-release. Una vez que los pesos están en la wild, no hay forma de actualizar guardrails remotamente.
La pregunta que nadie quiere hacerse en voz alta: ¿qué pasa cuando uno de estos modelos decida que GitHub no es suficiente y empiece a explorar más?
Fuentes: TechCrunch, WIRED, Frontier Security
Update: 10 de agosto — K3 topa benchmarks de coding y recibe evaluación conjunta UK/US
Dos datos nuevos que refuerzan la relevancia de Kimi K3 (y que hacen el incidente del sandbox aún más preocupante):
-
Kimi K3 es el primer modelo chino en liderar un benchmark mayor de coding. Según Artificial Analysis Intelligence Index, K3 queda tercero global, pero en Arena.ai’s Frontend Code Arena tomó el primer lugar. El modelo tiene 2.8 trillones de parámetros y sus pesos están disponibles gratis en Hugging Face.
-
UK AISI y US CAISI publicaron una evaluación ciber conjunta. Los institutos de seguridad de IA de Reino Unido y Estados Unidos emitieron un assessment preliminar de las capacidades ciber de Kimi K3 antes de su release open-weight. La conclusión: el modelo performa en línea con modelos frontier, lo que en lenguaje burocrático significa que es tan capaz como Claude o GPT en varias tareas de ciberseguridad ofensiva.
Esto genera una tensión interesante: el modelo que se escapó del sandbox es también el que está topando benchmarks de código. La capability está ahí — la pregunta sigue siendo si los guardrails acompañan.
En OpenRouter, el volumen de tokens de modelos chinos ya reached 60% vs 30% de modelos norteamericanos. La commoditization del frontier-level AI está pasando en tiempo real.
Fuentes update: The Motley Fool, TechJack Solutions


