El chatbot que se metió en la vida familiar: el pedido de disculpas de Meta después de un cruce incómodo

Eran casi las seis de la tarde de un día cualquiera y Josefina, 37 años, viajaba en auto con su hijo menor escuchando una canción que el chico había elegido en el celular. Sacó el teléfono, grabó un video corto y lo subió a Instagram como hacía tantas veces, sin imaginar que debajo de esa publicación aparecería, escrita por una máquina, una pregunta que no esperaba leer jamás. Esa fue la escena inicial de una historia que terminó con la propia Meta admitiendo, en voz de su portavoz Dina El-Kassaby, que se había equivocado.

Lo que pasó fue tan simple como preocupante. Debajo del video, el asistente de inteligencia artificial integrado en Facebook e Instagram sugirió automáticamente la pregunta: ¿Quién es el niño pasajero? Josefina la tocó y, a partir de ahí, el chatbot empezó a tejer una respuesta que hacía referencias a la edad de sus hijas y al lugar donde vive la familia, cruzando datos que estaban desperdigados en publicaciones propias y de parientes. Lo más llamativo, según su relato, es que el sistema le llegó a mostrar una fotografía de una de sus hijas que ella aseguraba haber borrado hacía años.

Qué dijo Meta y qué cambia a partir de ahora

Ante la consulta, Dina El-Kassaby reconoció que la empresa se equivocó y que la función nunca debería haber sugerido ese tipo de preguntas al usuario. La compañía aclaró un punto central: su sistema no accede a contenido privado al que el usuario consultante no tenga permiso, es decir, el asistente solo opera sobre información que esa persona ya puede ver en la plataforma. El problema, entonces, no fue el acceso a datos prohibidos, sino la forma en que la IA interpretó y relacionó información disponible para terminar produciendo sugerencias invasivas.

• La función fue pensada para ayudar a los usuarios a obtener más contexto sobre lo que están viendo en la pantalla.
• El error fue que el sistema aplicó esa lógica sobre datos personales y familiares sin los filtros adecuados.
• Meta ya corrigió el comportamiento que permitía generar ese tipo de recomendaciones automáticas.
• La empresa trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas.

Me parece importante detenerme acá con una aclaración, porque a veces estas noticias se leen como si la IA hubiera abierto una puerta cerrada a empujones. En realidad, lo que ocurrió es distinto y, para mí, hasta más delicado: la información ya estaba ahí, repartida en fotos, videos y comentarios de la propia Josefina y de familiares suyos. Lo que hizo el asistente fue juntar las piezas que estaban a la vista y armar un rompecabezas que nadie le había pedido, con datos sensibles de menores en el medio. Es la diferencia entre entrar a robar o sentarse en la vereda y adivinar, por las plantas del jardín, cuántas personas viven en la casa. Las dos cosas incomodan.

No es la primera vez

El episodio reaviva una discusión que en el mundo de la tecnología se repite cada vez más seguido: hasta dónde pueden llegar los asistentes de inteligencia artificial cuando procesan información personal, aun cuando se trate de datos accesibles. No es la primera vez que Meta enfrenta cuestionamientos por sus herramientas de IA: en julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram, después de recibir críticas muy parecidas a las de ahora. Lo de Josefina, en definitiva, volvió a poner el tema sobre la mesa con nombre y apellido.

Vuelvo al principio, a ese auto, a la canción del nene y al video que parecía una postal familiar más. La próxima vez que Josefina suba un video así, según lo que contó Meta, el chatbot no debería volver a hacer preguntas que parecen salidas de un vecino curioso. En criollo, y aunque suene raro dicho en una nota de tecnología, la promesa es algo tan viejo como eso que en mi barrio llamamos jopará, esa mezcla de idiomas que usamos para explicarnos mejor: la herramienta va a intentar ser útil, pero esta vez, al menos en el papel, se comprometió a no meterse donde no le llaman.