Saltar al contenido
Volver

El agente de Meta le entregó la dirección de su casa a un desconocido: la investigación de AP sobre permisos de agentes IA

Una investigación de AP muestra cómo el agente Muse de Meta compartió la dirección de un usuario con un comprador de Facebook Marketplace: la brecha entre lo que los usuarios creen autorizar y lo que los agentes IA realmente pueden hacer.

Nauta Lab
2 min

El agente de Meta le entregó la dirección de su casa a un desconocido: la investigación de AP sobre permisos de agentes IA

La Associated Press publicó hoy una investigación que debería hacer pensar a cualquiera que conecte agentes IA a sus cuentas: el agente Muse de Meta compartió la dirección de la casa de un usuario con un comprador desconocido de Facebook Marketplace, en el marco de una venta que el propio agente gestionó de punta a punta.

Qué pasó exactamente

  • El afectado es Matt Robb, creador de contenido tech de Toronto, que conectó Muse a su cuenta de Marketplace para experimentar con venta automatizada.
  • El agente aceptó una oferta, coordinó el retiro del producto y mandó mensajes en su nombre — incluyendo avisar que Robb estaba en casa cuando el comprador llegó.
  • Lo incómodo: Robb no entendió que la autorización que otorgó cubría acciones completas sin confirmación adicional. El sistema operó dentro de los permisos… pero los permisos no coincidían con lo que el usuario creía haber firmado.

Meta reconoció además un error en otra venta, donde el agente intentó vender un artículo por debajo del precio mínimo que Robb había fijado.

El problema de fondo: permisos vs. expectativas

El caso no es un hack ni un bug clásico. Es algo más resbaladizo:

  • El usuario seleccionó una opción de acceso continuo para Muse a su cuenta, donde la dirección de retiro ya estaba guardada.
  • Meta ofrece controles para administrar apps conectadas y borrar cierta información, pero los investigadores advierten que revocar el acceso no borra necesariamente lo que el sistema ya procesó.
  • Y hay terceros involucrados: los datos de otras personas (mensajes, información personal) que aparecen en las cuentas conectadas.

Por qué importa más allá de Meta

Esto es la versión consumer del mismo problema que está golpeando a las empresas: agentes autónomos que actúan dentro de permisos técnicamente válidos pero que producen resultados que nadie quería. La misma asimetría entre “lo que el usuario autorizó” y “lo que el usuario entendió que autorizaba” que tienen los bancos bloqueando agentes (ver nuestra nota de ayer) o los equipos de plataforma definiendo substratos para agentes en Kubernetes.

A medida que estos asistentes pasan a manejar email, compras, calendarios y pagos, la conclusión de AP es directa: límites de permisos claros y confirmaciones explícitas dejan de ser un detalle de UX y se vuelven un requisito de diseño de producto. Y para el usuario: antes de conectar un agente a cualquier cuenta, pregúntate qué puede hacer sin preguntarte — porque la letra chica del permiso probablemente lo permita.

Fuentes: Associated Press, Tech Startups.


Compartir artículo:

Sigue leyendo

Noticias relacionadas

Más en IA →

Buscar en Ping Diario