Social RocketLe istruzioni interne dell'agente IA personale di Meta, Muse, mostrano quanto possa spingersi la personalizzazione a lungo termine: il sistema è progettato per costruire pagine strutturate sulle persone nella vita di un utente, ad esempio familiari, amici, colleghi e altri contatti. Possono essere memorizzati fatti, storia condivisa, temi aperti e indicazioni su ciò che è importante per ciascuna relazione.
I documenti sono stati estratti da Muse da ricercatori di sicurezza e analizzati da WIRED. Meta afferma che Muse crea questi collegamenti sulla base di informazioni pubbliche e dei dati che gli utenti stessi condividono. Per inquadrare correttamente la questione: Meta dichiara esplicitamente che le conversazioni con Muse e i dati presenti nella VM personale di Muse non vengono condivisi con i sistemi pubblicitari di Meta.
Muse deve comprendere le relazioni nel lungo periodo
Secondo le istruzioni interne analizzate da WIRED, Muse può creare pagine strutturate proprie per le persone nella cerchia di un utente. Inizialmente possono essere molto essenziali e crescere nel tempo con ulteriore contesto.
Tra gli ambiti citati figurano fatti, storia condivisa, la relazione stessa, punti in comune o temi aperti. Anche compleanni, conversazioni precedenti o dettagli che potrebbero tornare utili per suggerimenti futuri possono entrare a far parte di questa memoria.
È importante distinguere tra funzione documentata e interpretazione: secondo WIRED le istruzioni richiedono che Muse lavori sulla base di evidenze disponibili e non inventi informazioni mancanti. Il sistema non dovrebbe quindi riempire deliberatamente le lacune con speculazioni.
Meta descrive ufficialmente la stessa idea di fondo in modo meno tecnico. Muse dovrebbe ricordare dettagli che un utente ha magari menzionato una sola volta, così che l'agente possa in seguito fare autonomamente suggerimenti adeguati, ad esempio nella pianificazione di una cena o in attività che riguardano amici e familiari.
Perché si tratta di più della classica memoria dei chatbot
La memoria personalizzata negli assistenti IA non è ormai una funzione insolita. Con Muse, però, si passa a un modello di prodotto molto più ampio: l'agente può essere collegato a e-mail, calendario, Instagram e altri servizi, lavorare nel browser e continuare le attività anche dopo la chiusura dell'app.
Ne deriva un contesto di privacy diverso rispetto a un chatbot isolato. Non diventano rilevanti nel tempo solo singole affermazioni, ma anche informazioni provenienti dai servizi collegati, attività ricorrenti, relazioni sociali e schemi ricavati da essi.
Meta ha costruito Muse proprio per questo tipo di funzionamento continuativo. L'agente gira in una propria Muse Secure VM, una macchina virtuale dedicata per ogni utente. I servizi collegati possono essere autorizzati o scollegati singolarmente. Per azioni sensibili, come l'invio di un'e-mail o un acquisto, Muse dovrebbe richiedere una conferma e rendere visibili tutte le attività in un registro di audit.
Srocket ha già inquadrato questa direzione tecnica nell'uso di Muse per le piccole imprese e nel commercio agentico con Shopify e altri servizi. Più servizi un agente può effettivamente gestire, più diventa importante chiedersi quale contesto venga memorizzato in modo permanente.
Nessuna prova che questi profili confluiscano nell'ad targeting
Proprio nel caso di Meta viene spontaneo sospettare che i dati personali dell'IA vengano collegati direttamente al business pubblicitario. Per i profili Muse qui descritti, però, non esiste alcuna prova documentata in tal senso.
Nella sua documentazione ufficiale su Muse, Meta scrive esplicitamente che le conversazioni con Muse e i dati all'interno della Muse Secure VM non vengono condivisi con i sistemi pubblicitari dell'azienda. Gli utenti possono scollegare i servizi connessi, eliminare i ricordi salvati e opporsi all'utilizzo delle proprie interazioni per addestrare i modelli di IA di Meta.
Questa garanzia non va confusa con l'affermazione che Muse elabori pochi dati. Al contrario: l'utilità del prodotto nasce proprio dal fatto che l'agente conosca il maggior numero possibile di contesti rilevanti. Il conflitto centrale in materia di privacy riguarda quindi innanzitutto portata, durata e controllo della personalizzazione, non una dimostrata trasmissione ai sistemi di targeting pubblicitario.
Meta prevede inoltre una Muse Confidential VM, in cui l'intera macchina virtuale, compresi dati e conversazioni, dovrebbe essere cifrata con una chiave posseduta solo dall'utente. Secondo la descrizione di Meta, in quel caso nemmeno l'azienda stessa potrebbe accedere a questi contenuti.
Gli agenti IA personali spostano la questione della privacy
Per piattaforme e marketer, Muse è un esempio di come il valore dei dati stia cambiando nell'era dell'IA. Nei social network, per molto tempo, al centro c'è stata l'osservazione di clic, interessi e interazioni. Gli agenti personali diventano invece utili quando gli utenti forniscono attivamente un contesto approfondito su quotidianità, contatti, appuntamenti, acquisti e obiettivi.
Questo cambia anche le aspettative in materia di governance. Quando un agente modella relazioni e continua ad apprendere per mesi, diventano più importanti una logica di conservazione tracciabile, la possibilità di cancellare i dati, diritti di accesso chiari e una separazione effettiva dagli altri sistemi aziendali.
Questioni architetturali analoghe Meta le affronta già con il Private Processing per AI Glasses. Allo stesso tempo, l'azienda integra Muse sempre più nei flussi di lavoro aziendali tramite la sua Enterprise Platform.
Per i brand se ne ricava soprattutto una regola pratica: un agente IA dovrebbe accedere solo ai dati e ai sistemi di cui ha realmente bisogno per il suo compito. Più la personalizzazione diventa una funzione del prodotto, più diventa importante una minimizzazione dei dati tracciabile.
Che cosa possono controllare gli utenti
Secondo l'attuale documentazione di Meta, gli utenti possono stabilire quali app Muse può collegare e quali azioni l'agente può eseguire in tali servizi. Le connessioni possono essere rimosse in qualsiasi momento. Prima di compiere azioni sensibili, Muse dovrebbe chiedere conferma, mostrare un registro delle attività e, su richiesta, dimenticare singoli ricordi.
Le istruzioni interne pubblicate da WIRED mostrano quanto possa diventare ampia dal punto di vista tecnico una memoria di questo tipo. La posizione di Meta non è che Muse memorizzi poco, ma che gli utenti mantengano il controllo e che i dati degli agenti restino separati dai sistemi pubblicitari.
Se questo equilibrio regga nella pratica diventa così una delle domande più importanti per gli agenti IA personali in generale.