Muse di Meta è più efficace nel sorvegliarmi che nell’aiutarmi
wired ·
Reece Rogers di WIRED ha testato Muse di Meta, un agente di IA per attività come ricerche sul web, acquisti, prenotazioni e gestione della posta in arrivo. L’app navigava sul web con un’affidabilità relativamente buona, trovava divani locali su Facebook Marketplace e dava seguito alle richieste, ma per alcune azioni era ancora necessaria l’approvazione dell’utente, così come le informazioni di pagamento. Muse conserva una memoria a lungo termine delle interazioni, incoraggiando al contempo ripetutamente Rogers a collegare email, conti bancari e documenti personali. Gli utenti vengono iscritti automaticamente alla condivisione delle interazioni per l’addestramento dei modelli di IA, anche se Meta afferma che i dati vengono resi anonimi; gli utenti possono disattivare questa funzione nei controlli dei dati, mentre la memoria non può essere completamente disattivata tramite un interruttore. I sostenitori della privacy avvertono che le pratiche di gestione dei dati dell’agente, le implicazioni del tracciamento e i potenziali incentivi commerciali potrebbero minare la fiducia e influenzare ciò che gli utenti vedono. I ricercatori avvertono inoltre che agenti altamente personalizzati potrebbero incoraggiare la condivisione eccessiva di informazioni, la passività e una dipendenza capace di indebolire il processo decisionale autonomo. Dopo gli esperimenti, Rogers ha eliminato Muse, concludendo che la sua fame di dati personali superava il suo aiuto pratico.
wired