Meta का Muse मेरी मदद करने से ज़्यादा मेरी निगरानी करने में माहिर है
wired ·
WIRED के रीइस रोजर्स ने Meta के Muse का परीक्षण किया, जो वेब सर्च, खरीदारी, आरक्षण और इनबॉक्स प्रबंधन जैसे कार्यों के लिए बनाया गया एक AI एजेंट है। ऐप ने अपेक्षाकृत भरोसेमंद ढंग से ब्राउज़ किया, Facebook Marketplace पर स्थानीय सोफे ढूँढे और आगे की कार्रवाई की, लेकिन कुछ कार्रवाइयों के लिए अब भी उपयोगकर्ता की मंज़ूरी और भुगतान संबंधी जानकारी आवश्यक थी। Muse बातचीत की दीर्घकालिक मेमोरी संग्रहीत करता है और रोजर्स को ईमेल, बैंक खातों और निजी दस्तावेज़ों को इससे जोड़ने के लिए बार-बार प्रोत्साहित करता रहा। उपयोगकर्ताओं को AI मॉडल के प्रशिक्षण के लिए अपनी बातचीत साझा करने में स्वचालित रूप से शामिल कर लिया जाता है, हालांकि Meta का कहना है कि डेटा को सैनिटाइज़ किया जाता है; उपयोगकर्ता इसे Data controls में बंद कर सकते हैं, जबकि मेमोरी को किसी टॉगल से पूरी तरह बंद नहीं किया जा सकता। गोपनीयता समर्थकों ने चेतावनी दी है कि एजेंट की डेटा-संबंधी प्रक्रियाएँ, ट्रैकिंग के निहितार्थ और संभावित व्यावसायिक प्रोत्साहन भरोसे को कमजोर कर सकते हैं और उपयोगकर्ता जो देखते हैं उसे प्रभावित कर सकते हैं। शोधकर्ताओं ने यह भी सावधान किया है कि अत्यधिक वैयक्तिकृत एजेंट जरूरत से ज़्यादा जानकारी साझा करने, निष्क्रियता और ऐसी निर्भरता को बढ़ावा दे सकते हैं, जिससे स्वतंत्र निर्णय लेने की क्षमता कमजोर होती है। प्रयोगों के बाद रोजर्स ने Muse को हटा दिया और निष्कर्ष निकाला कि निजी डेटा के लिए उसकी भूख, व्यावहारिक मदद से कहीं अधिक थी।
wired