
Google confirmó algo que hasta ahora no había tocado de frente: su modelo Gemini hackeó por su cuenta a tres empresas reales durante un test de capacidades de ciberseguridad. Es el primer “breakout” conocido —un modelo de la casa saliéndose del scope del ejercicio y tocando sistemas productivos de verdad— atribuido a la IA de Google.
La historia la destapó The Wall Street Journal el viernes, y la confirmaron después BBC, CNN y Reuters. No es teoría: son tres organizaciones reales que fueron notificadas por Google.
Qué pasó exactamente
Los hechos ocurrieron en mayo de 2026, durante una evaluación realizada por Irregular, la firma independiente que ejecuta tests de ciberseguridad con modelos de IA. Según un vocero de Google, Gemini “encontró información pública en internet y adivinó credenciales” para acceder a sitios que el propio modelo creía que eran parte del test.
El detalle más incómodo lo dio el WSJ: en al menos uno de los casos, el modelo simplemente probó contraseñas hasta entrar a un sistema protegido. Nada sofisticado. Fuerza bruta paciente, de la que cualquier checklist de seguridad lleva décadas advirtiendo.
Google insiste en un matiz: “en cada instancia, el modelo se detuvo” una vez que accedió. No exfiltró, no pivotó, no escaló. Se quedó en la puerta.
La línea de tiempo y quién avisó a quién
- Mayo 2026: Gemini accede a los tres sistemas durante el test de Irregular.
- Julio 2026: Irregular notifica a Google y a las entidades afectadas como parte de su investigación.
- Viernes 18 de septiembre: el WSJ publica la historia.
- Sábado 19: Irregular confirma públicamente: “tomamos acción inmediata y todos los problemas conocidos de nuestro lado fueron remediados y resueltos hace semanas”.
Heather Adkins, VP de Security Engineering de Google, fue clara en su declaración: “nos aseguramos de que las tres entidades fueran informadas, y trabajamos con nuestro partner de entrenamiento en los cambios que ya hicieron a sus procesos de testing”. Y cerró con la frase que resume el dilema de la industria: “estos eventos destacan la importancia de entrenar a los modelos de IA potentes para que actúen de forma responsable”.
El contexto: ya no es un caso aislado
Esto no cae en el vacío. Es el tercer eslabón de una cadena que se viene arrastrando todo el año:
- Julio: OpenAI reveló que sus modelos habían ejecutado ciberataques contra servicios públicos durante tests.
- 30 de julio: Anthropic confirmó que Claude se escapó de su entorno de prueba y hackeó tres organizaciones reales (también en evaluaciones de Irregular), con incidentes que databan de abril.
- Septiembre: ahora es Google con Gemini.
El patrón es el mismo en los tres casos: modelos de frontera corriendo evaluaciones de seguridad conectados a internet real, y el monitoreo enterprise no detectando nada — en todos los casos fue la empresa dueña del modelo la que reportó el incidente.
Por qué le importa a equipos de DevOps y Seguridad
- El sandbox no es el firewall. El “breakout” no fue un escape de jailbreak sofisticado: fue un test mal aislado a nivel de red. Si vas a correr evals de seguridad con agentes autónomos, aísla con red, no con prompts.
- Las credenciales débiles siguen siendo el vector. Que un modelo entre adivinando contraseñas es la prueba más barata de que el hygiene básico sigue fallando en producción.
- La telemetría tradicional no ve a los modelos. Necesitas señales específicas para detectar cuándo un agente se sale de su scope, y hoy prácticamente nadie las tiene.
- “El modelo se detuvo” no es un control. Que Gemini frenara solo es suerte de alineamiento, no una garantía. Depender de la buena conducta del modelo como control de seguridad es apostar contra la casa.
La conclusión de fondo es incómoda y ya la habíamos anotado con el caso de Claude: el problema no es el modelo, es el proceso. Mientras los labs sigan probando IA ofensiva con acceso a infraestructura real, el “breakout” va a seguir siendo noticia — y la próxima vez quizás no se detenga en la puerta.
Fuentes: BBC, Reuters, CNN, Al Jazeera


