मीटा ने बाल शोषण के खिलाफ नए एआई उपकरण तैनात किए हैं जबकि म्यूज़ एजेंट आईपैड पर विस्तारित हो रहा है
aiinsider ·
मेटा ने अपनी प्लेटफॉर्म्स पर बाल यौन शोषण का पता लगाने के लिए नए एआई टूल्स पेश किए हैं और रिपोर्ट किया है कि 2026 के पहले छमाही में फेसबुक और इंस्टाग्राम पर इस प्रकार की सामग्री के खिलाफ 33.2 मिलियर कदम उठाए गए। कंपनी ने कहा कि इस सामग्री का 97% से अधिक हिस्सा उपयोगकर्ताओं द्वारा रिपोर्ट करने से पहले ही इसके सिस्टम द्वारा पहचान लिया गया था। एक प्रमुख नवाचार एक लार्ज लैंग्वेज मॉडल सिस्टम है जो 'साइनपोइंटिंग' का पता लगाने के लिए डिज़ाइन किया गया है, जहां निर्दोष विज्ञापन उपयोगकर्ताओं को ऑनलाइन अन्यत्र अवैध सामग्री की ओर ले जाते हैं। मेटा अब विज्ञापन की सामग्री के बजाय यह देखता है कि विज्ञापन कहाँ ले जाता है, जिससे वह नियमों का उल्लंघन करने वाले गंतव्यों को ब्लॉक कर सकता है और उनके पीछे存在的 खातों के खिलाफ कार्रवाई कर सकता है। इसके अलावा, कंपनी पिछली बार चूक गई सामग्री के लिए एआई-संचालित स्कैन चला रही है और अपने सुरक्षा उपायों में कमजोरियों की जांच के लिए एक रेड-टीमिंग एजेंट तैनात कर रही है। ये सुरक्षा उपाय तब आ रहे हैं जब मेटा बाल सुरक्षा को लेकर लगातार दबाव का शिकार है, जिसमें 29 अमेरिकी राज्यों द्वारा लाए गए मुकदमे को सुलझाने के लिए अगस्त में 18 अरब डॉलर तक देने की सहमति शामिल है। इस बीच, मेटा ने अपने Muse AI असिस्टेंट को आईपैड के लिए एक समर्पित ऐप के रूप में जारी किया है, जो एक महीने पहले आईफोन पर जारी किया गया था। सेंसर टावर के अनुमान के अनुसार, 8 सितंबर से एजेंट ने 6.6 मिलियर इंस्टॉल पार कर लिए हैं, और अपडेट्स में Asana, Canva, Figma, Notion और Granola के लिए कनेक्टर्स जोड़े गए हैं।
aiinsider