
La Associated Press publicó hoy una investigación que debería hacer pensar a cualquiera que conecte agentes IA a sus cuentas: el agente Muse de Meta compartió la dirección de la casa de un usuario con un comprador desconocido de Facebook Marketplace, en el marco de una venta que el propio agente gestionó de punta a punta.
Qué pasó exactamente
- El afectado es Matt Robb, creador de contenido tech de Toronto, que conectó Muse a su cuenta de Marketplace para experimentar con venta automatizada.
- El agente aceptó una oferta, coordinó el retiro del producto y mandó mensajes en su nombre — incluyendo avisar que Robb estaba en casa cuando el comprador llegó.
- Lo incómodo: Robb no entendió que la autorización que otorgó cubría acciones completas sin confirmación adicional. El sistema operó dentro de los permisos… pero los permisos no coincidían con lo que el usuario creía haber firmado.
Meta reconoció además un error en otra venta, donde el agente intentó vender un artículo por debajo del precio mínimo que Robb había fijado.
El problema de fondo: permisos vs. expectativas
El caso no es un hack ni un bug clásico. Es algo más resbaladizo:
- El usuario seleccionó una opción de acceso continuo para Muse a su cuenta, donde la dirección de retiro ya estaba guardada.
- Meta ofrece controles para administrar apps conectadas y borrar cierta información, pero los investigadores advierten que revocar el acceso no borra necesariamente lo que el sistema ya procesó.
- Y hay terceros involucrados: los datos de otras personas (mensajes, información personal) que aparecen en las cuentas conectadas.
Por qué importa más allá de Meta
Esto es la versión consumer del mismo problema que está golpeando a las empresas: agentes autónomos que actúan dentro de permisos técnicamente válidos pero que producen resultados que nadie quería. La misma asimetría entre “lo que el usuario autorizó” y “lo que el usuario entendió que autorizaba” que tienen los bancos bloqueando agentes (ver nuestra nota de ayer) o los equipos de plataforma definiendo substratos para agentes en Kubernetes.
A medida que estos asistentes pasan a manejar email, compras, calendarios y pagos, la conclusión de AP es directa: límites de permisos claros y confirmaciones explícitas dejan de ser un detalle de UX y se vuelven un requisito de diseño de producto. Y para el usuario: antes de conectar un agente a cualquier cuenta, pregúntate qué puede hacer sin preguntarte — porque la letra chica del permiso probablemente lo permita.
Fuentes: Associated Press, Tech Startups.


