Redacción, 4 de octubre.- El asistente de inteligencia artificial de Meta, Muse, ejecuta un proceso automático cada hora para crear un perfil detallado de cada familiar, pareja, amigo y colega de sus usuarios, según documentos internos extraídos por un investigador independiente.
El hallazgo lo hizo Karan Joshi, investigador independiente especializado en seguridad informática y en seguridad de la inteligencia artificial, quien logró que el propio chatbot le entregara sus instrucciones internas con un pedido simple: le pidió a Muse que copiara y compartiera sus archivos de software a través de la interfaz normal de chat.
Entre esas instrucciones aparece la orden de generar “una página para cada persona en la vida del usuario”.
El proceso horario recopila información sobre familiares, parejas, amigos, colegas, “colaboradores” y personas a las que el usuario simplemente sigue en redes sociales, de acuerdo con la documentación citada por Wired.
Cada ficha se organiza en categorías fijas: hechos, historia, la relación, puntos en común, temas pendientes y el estado del vínculo. Las páginas comienzan con poca información y se expanden con el tiempo, según los documentos revisados.
Entre los datos que Muse registra figuran mudanzas, metas de ahorro compartidas, cumpleaños, aniversarios y hasta discusiones pasadas entre el usuario y las personas de su entorno, siempre que existan rastros de esa información en las conversaciones o conexiones del usuario.
Las instrucciones internas también le indican al sistema que debe basarse estrictamente en la evidencia disponible y evitar inventar detalles sobre las personas perfiladas, un matiz que Meta destaca como garantía de precisión frente al riesgo de que la inteligencia artificial imagine datos falsos.
Joshi describió el hallazgo en duros términos. “Quieren entender las relaciones que tenés con personas reales”, dijo. “Tratan de conocerte como lo haría un amigo, lo cual es honestamente bastante inquietante”, agregó.
Un vocero de Meta, Daniel Roberts, defendió el diseño ante Wired. “Para que cualquier agente sea útil y realmente te ayude a lograr tus objetivos, necesita tener contexto sobre vos y sobre quienes te rodean”, afirmó.
Roberts explicó que Muse obtiene esos datos a partir de información pública y de lo que el usuario decide compartir, y puso como ejemplo que así el sistema recuerda que quien envió una factura es el plomero contratado previamente, o qué flores prefiere la pareja del usuario.
