Meta admitió que su chatbot de IA cruzó datos familiares y disparó preguntas íntimas sobre una nena de 5 años

El caso quedó al descubierto el domingo pasado, cuando una usuaria de Instagram publicó un video corto en el que cantaba dentro de su auto con su hijo menor. Debajo de la publicación, el asistente de inteligencia artificial de Meta, integrado en la propia red social, propuso en forma automática la pregunta ¿Quién es el niño pasajero? Al elegir esa opción, el chatbot empezó a devolver datos de las otras hijas de la mujer, entre ellos la edad y la ciudad de residencia de la familia. El niño del video tiene 5 años, según consta en el material de origen.

La usuaria sostuvo, además, que la herramienta le exhibió fotografías de sus hijas que ya habían sido publicadas con anterioridad, e incluso una imagen que ella aseguró haber borrado tiempo atrás. Según su testimonio, el sistema tomó publicaciones propias y de familiares directos para armar las sugerencias. En otras palabras, juntó piezas de información que estaban a la vista dentro de la plataforma y las convirtió en preguntas de carácter íntimo.

Qué dijo Meta y qué cambió

Dina El-Kassaby, vocera de la compañía, reconoció públicamente que la empresa se equivocó y afirmó que la función nunca debería haber sugerido ese tipo de preguntas al usuario. La aclaración clave fue esta: Meta no accedió a contenido privado de la usuaria ni de sus hijas. El asistente trabaja solo sobre información que la persona que pregunta ya puede ver en Facebook o Instagram. El problema, según la propia compañía, estuvo en cómo la IA interpretó y vinculó esos datos para generar las recomendaciones.

• Un video familiar de 21 segundos fue el punto de partida: la IA propuso identificar al niño que viajaba en el auto.
• Al responder la pregunta automática, el chatbot devolvió edad y ubicación de las otras hijas de la usuaria.
• La mujer aseguró que aparecieron fotos que ella creía eliminadas, aunque Meta no confirmó ese extremo.
• La empresa admitió que el error fue de diseño: la lógica de sugerencia se aplicó sobre datos personales sin filtros adecuados.
• Meta asegura que ya desactivó ese comportamiento y trabaja en limitar las preguntas al entorno familiar.

En buen romance, la IA hizo de detective con material que estaba al alcance de cualquier contacto: un video, fotos públicas y comentarios. Lo grave no fue ver la información, que ya era accesible, sino que el sistema la empaquetó sola, sin que nadie la pidiera, y la ofreció en forma de pregunta sobre menores de edad. Para entenderlo con un ejemplo de la casa: es como si un invitado en una reunión familiar empezara a cruzar en voz alta los datos que vio en las fotos del grupo de WhatsApp y preguntara, delante de todos, cuántos años tiene la nena y en qué barrio vive.

No es la primera señal de alerta para Meta en materia de inteligencia artificial. En julio de este año, la compañía retiró una función que permitía generar imágenes falsas de otros usuarios de Instagram, tras recibir quejas por el uso del rostro de personas ajenas sin consentimiento. El patrón se repite: herramientas lanzadas con rapidez, reacciones críticas de los usuarios y ajustes posteriores.

“Reconocemos que nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, vocera de Meta

Lo que todavía no se sabe es qué alcance tendrá el cambio: Meta no detalló si la corrección es definitiva o si se trata de un parche temporario, ni publicó un informe técnico sobre el episodio. Tampoco informó si otras cuentas corrieron la misma situación ni cuántas personas fueron alcanzadas por las sugerencias invasivas antes de la modificación. Mientras tanto, el caso vuelve a poner sobre la mesa una pregunta que la industria todavía no resolvió de forma clara: dónde está el límite cuando una IA deja de ayudar a explorar una publicación y empieza a interrogar la vida privada de un menor.