Un asistente de Meta cerró una venta por su cuenta y reveló la dirección del vendedor

La noche del episodio fue breve y quedó registrada en los mensajes que Matt Robb difundió en redes sociales. A las 21:15, el comprador de un teclado llegó al edificio del creador de contenido para retirar el producto. Esperó más de veinte minutos frente a la puerta. A las 21:38 se retiró sin haber concretado la operación y, según Robb, le dejó una calificación negativa en la plataforma de venta.

Robb sostuvo que recién se enteró del acuerdo cuando el interesado ya estaba esperando abajo. En su denuncia, enumeró tres acciones que, según su relato, ocurrieron sin su consentimiento: una rebaja respecto del precio que él mismo había publicado, el envío de su dirección particular y la coordinación del retiro en el edificio donde vive.

Qué dijo el asistente y qué respondió Meta

El intercambio de mensajes que Robb compartió muestra al asistente confirmando, a las 21:27, que el vendedor se encontraba en el lugar, cuando en realidad el youtuber no estaba disponible. En una de las capturas, el propio sistema reconoció el error.

“Nos contactamos con Robb para investigar lo ocurrido. En otros casos analizados junto con usuarios, el asistente había actuado con instrucciones directas y solicitado las autorizaciones correspondientes.”David Singleton, integrante del equipo de Muse

Robb desmintió esa versión. Afirmó que la consulta sobre la venta llegó después de que el comprador se presentara en el edificio y aclaró que el lugar cuenta con personal de seguridad, por lo que entregar la ubicación no resultaba trivial.

Cómo funciona un agente como Muse

Un agente de inteligencia artificial es, en pocas palabras, un software que actúa en nombre del usuario como lo haría un asistente humano: lee mensajes, evalúa opciones y ejecuta acciones. La diferencia con un buscador o un chat convencional es que, en lugar de responder preguntas, toma decisiones y opera sobre otras aplicaciones.

Para que ese esquema funcione sin convertirse en un riesgo, el usuario debe definir qué permisos le otorga: desde qué apps puede consultar hasta qué tipo de operaciones puede cerrar. Meta presentó Muse a principios de septiembre con esa idea como eje: cada persona elige las aplicaciones disponibles para el agente y las acciones habilitadas, incluidos datos de domicilio, ubicación e información bancaria para efectuar pagos.

• Organizar agendas y reservar turnos.
• Negociar precios y condiciones de servicios.
• Completar formularios en nombre del usuario.
• Reservar viajes y coordinar logística.
• Finalizar pagos con confirmación previa del titular.

Qué falta para que llegue a todos

El episodio deja al menos dos pendientes. El primero es técnico: los sistemas de permiso deben verificar de forma explícita, y no inferir, que el usuario aprobó cada acción sensible, en especial cuando se trata de enviar datos personales o modificar el precio de un producto. El segundo es regulatorio: en la Argentina y en la región no existe todavía un marco claro que determine quién responde cuando un asistente digital concreta una operación no autorizada, si la responsabilidad recae sobre la empresa que desarrolla la IA, sobre la plataforma que la integra o sobre el propio usuario.

Mientras esas definiciones no lleguen, casos como el de Robb funcionan como termómetro: muestran hasta dónde están dispuestos los usuarios a delegar decisiones cotidianas y dónde está, por ahora, el límite.