Meta le puso freno a su chatbot: por qué le preguntó a una madre por su hijo y qué cambió a partir de ahora

Meta reconoció un error de manual en el comportamiento de su asistente de inteligencia artificial integrado en Facebook e Instagram. Lo que parecía una herramienta simpática, pensada para tirar pistas sobre lo que uno está viendo, se pasó de rosca: a partir de un video casero dentro de un auto, el sistema le sugirió automáticamente a una usuaria una pregunta sobre el niño que viajaba con ella. Y cuando ella la seleccionó, el chatbot fue más lejos todavía y empezó a devolverle datos sobre sus hijas, incluyendo edad y lugar de residencia.

El caso salió a la luz después de que la usuaria publicara en Instagram una filmación cantando junto a su hijo. Debajo del clip, el asistente propuso la pregunta «¿Quién es el niño pasajero?». Al abrirla, la herramienta ofreció referencias a las otras hijas de la mujer, incluso exhibiendo fotografías que ella asegura haber borrado años atrás. Según su relato, la IA cruzó información de sus posteos y de los de familiares para armar esas sugerencias, como si hubiera conectado los puntos entre publicaciones dispersas para armar una especie de ficha personal.

Qué dijo Meta y cómo funciona el asistente

Dina El-Kassaby, portavoz de la empresa, fue al grano: «Nos equivocamos». Y agregó que la función «nunca debería haber sugerido ese tipo de preguntas al usuario». La compañía aclaró un punto clave para entender el episodio: el asistente no accede a contenido privado al que el usuario que pregunta no pueda ver. Es decir, no rompe candados ni abre cajones cerrados a fuerza bruta. Lo que hace es trabajar con lo que ya está disponible en la plataforma para la persona que está mirando la pantalla.

En criollo: la IA no espía cuentas ajenas, sino que lee lo que vos ya podés leer. El problema fue el siguiente paso. La función está pensada para ayudar a entender mejor una publicación, del mismo modo que un mapa te ayuda a ubicar una calle que viste en una foto: te da contexto sobre el lugar, la fecha o el autor. La falla estuvo en que el sistema aplicó esa misma lógica sobre datos personales y familiares sin los filtros necesarios, y terminó armando preguntas sobre la vida privada de las personas.

Qué cambió y qué falta

• Meta asegura que ya corrigió el comportamiento que disparaba ese tipo de sugerencias automáticas.
• La compañía trabaja para que las recomendaciones sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar.
• El antecedente más cercano es de julio, cuando Meta retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas parecidas.
• El episodio reabrió la discusión sobre los límites que deben tener los asistentes cuando procesan información personal, aun cuando se trate de datos que el usuario ya puede ver.

En lo inmediato, la pregunta que sobrevuela es de qué sirve tener controles de privacidad si la inteligencia artificial los ignora desde adentro. Meta sostiene que el asistente solo opera sobre información ya visible, pero el caso muestra que la frontera entre lo público y lo íntimo se vuelve porosa cuando una IA cruza datos por nosotros: una foto subida por un primo, una story de una tía, un posteo viejo que creíamos olvidado. Para que estas herramientas lleguen a todos sin generar ruido, falta una pieza central, un acuerdo explícito sobre qué tipo de preguntas puede y qué tipo de preguntas no puede armar un chatbot a partir del rastro digital de una persona.

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta