Metas Muse ist besser darin, mich zu überwachen, als mir zu helfen
wired ·
WIREDs Reece Rogers testete Metas Muse, einen KI-Agenten für Aufgaben wie Websuchen, Einkäufe, Reservierungen und die Verwaltung des Posteingangs. Die App navigierte relativ zuverlässig im Web, fand lokale Sofas auf Facebook Marketplace und hakte nach, doch für einige Aktionen waren weiterhin die Zustimmung des Nutzers und Zahlungsinformationen erforderlich. Muse speichert eine langfristige Erinnerung an Interaktionen und drängte Rogers wiederholt dazu, E-Mail-Konten, Bankkonten und persönliche Dokumente zu verknüpfen. Nutzer werden automatisch dafür angemeldet, ihre Interaktionen zum Training von KI-Modellen zu teilen, obwohl Meta angibt, die Daten würden bereinigt; in den Datenkontrollen können Nutzer dies deaktivieren, während sich die Erinnerungsfunktion nicht vollständig über einen Schalter abschalten lässt. Datenschützer warnen, dass die Datenpraktiken des Agenten, die Auswirkungen der Nachverfolgung und mögliche kommerzielle Anreize das Vertrauen untergraben und beeinflussen könnten, was Nutzer zu sehen bekommen. Forscher warnen zudem, dass stark personalisierte Agenten zu übermäßigem Teilen persönlicher Informationen, Passivität und Abhängigkeit verleiten könnten, wodurch die eigenständige Entscheidungsfindung geschwächt wird. Nach den Experimenten löschte Rogers Muse und kam zu dem Schluss, dass dessen Appetit auf persönliche Daten den praktischen Nutzen überwog.
wired