
Si usas agentes de coding con IA (Copilot, Cursor, Gemini CLI, etc.), esta noticia te va a interesar. Investigadores de Tel Aviv University, Technion e Intuit publicaron un paper esta semana describiendo “HalluSquatting”, una técnica que arma las alucinaciones de los LLMs en tu contra.
¿Cómo funciona?
Los agentes de IA coding de vez en cuando inventan nombres de paquetes o repositorios que suenan legítimos pero no existen. Eso ya lo sabíamos. Lo nuevo es que los investigadores descubrieron que esas alucinaciones son predecibles:
- Un developer le pide al agente instalar un paquete o importar un repo
- El agente alucina un nombre que suena correcto pero no existe
- El atacante ya registró ese nombre con código malicioso
- El agente descarga e instala el malware sin que nadie se dé cuenta
La tasa de éxito es alarmante: los modelos alucinan nombres falsos de repositorios 85% de las veces, y para instalación de “skills” llegó al 100%.
¿Cuáles agentes son vulnerables?
Los investigadores probaron contra GitHub Copilot, Google Gemini CLI, OpenClaw, NanoClaw, Windsor y Cursor. Todos cayeron. Esto no es un bug de un producto específico, es un problema sistémico de los LLMs.
¿Por qué funciona tan bien?
Los atacantes se enfocan en recursos trending — paquetes populares o recién subidos. Como son nuevos, no estaban en el set de entrenamiento del modelo, lo que aumenta drásticamente la tasa de alucinación. Y como hay mucho volumen de descargas, hay más probabilidad de que alguien — o algún agente — los pida.
¿Qué implica?
- Botnets agentic: Los researchers advierten que esto permite crear botnets explotando aplicaciones LLM, donde cada dispositivo “infectado” opera como un bot sin que el usuario lo sepa.
- Transferabilidad: Las alucinaciones se transfieren entre modelos. Un nombre que GPT alucina probablemente también lo alucine Claude o Gemini.
- Lower bound: Los autores aclaran que sus hallazgos son un “límite inferior”: los ataques siempre mejoran, nunca empeoran.
¿Cómo defenderse?
- Verificar antes de instalar: Los agentes deberían validar que los paquetes existen en registros oficiales antes de instalarlos.
- Sandboxing: Ejecutar agentes de coding en entornos aislados, no en máquinas de desarrollo con acceso a todo.
- Allowlists: Restringir qué paquetes y repositorios pueden instalarse.
- Human-in-the-loop: No dejar que los agentes instalen cosas sin revisión humana, especialmente paquetes nuevos o poco conocidos.
La investigación completa está disponible en sites.google.com/view/agentic-botnets.
¿Por qué te importa?
Si tu equipo usa AI coding agents (y probablemente lo hace), esto es un vector de ataque real y activo. La combinación de alucinaciones predecibles + agentes que ejecutan comandos sin supervisión es perfecta para attackers. Conviene revisar políticas de seguridad alrededor de estos tools antes de que se convierta en incidente.
Fuentes: DevOps.com, The Hacker News, Business Standard, paper original (Tel Aviv University / Technion / Intuit)


