मेटा ने बाल यौन शोषण सामग्री की ओर गुप्त रूप से ले जाने वाले विज्ञापनों को पहचानने के लिए नए एआई उपकरण लॉन्च किए
techcrunch ·
मेटा ने घोषणा की कि उसने 2026 के पहले छमाही में फेसबुक और इंस्टाग्राम से 33.2 मिलियर बाल यौन शोषण सामग्री हटाई, जिसमें से 97% से अधिक का पता लगाया गया था उपयोगकर्ता रिपोर्ट करने से पहले। बदलती धमकियों से निपटने के लिए, कंपनी नए एआई टूल्स तैनात कर रही है जो अवैध बाल शोषण सामग्री तक पहुंच प्रदान करने वाले विज्ञापनों की पहचान करने के लिए डिज़ाइन किए गए हैं, जो मेटा की प्लेटफ़ॉर्म के बाहर होस्ट होते हैं। एक प्रमुख नवाचार एक बड़े भाषा मॉडल सिस्टम है जो 'साइनपोइंटिंग' का पता लगाता है, जहां दिखने में निर्दोष विज्ञापन गुप्त रूप से उपयोगकर्ताओं को हानिकारक वेबसाइटों की ओर ले जाते हैं। मेटा अब नियम तोड़ने वाली साइटों को ब्लॉक करने और संबंधित खातों पर कार्रवाई करने के लिए विज्ञापन सामग्री के बजाय विज्ञापन गंतव्यों का विश्लेषण कर रहा है। अतिरिक्त उपायों में रेड-टीमिंग एआई एजेंट्स शामिल हैं जो सुरक्षा रक्षाओं में कमजोरियों की जांच करते हैं और पिछले प्रतिबंधों के बाद नए खाते बनाने वाले उपयोगकर्ताओं को ट्रैक करने के लिए बेहतर सिस्टम। ये प्रयास महत्वपूर्ण कानूनी दबाव के बीच आ रहे हैं, जिसमें बाल सुरक्षा चिंताओं के संबंध में 29 अमेरिकी राज्यों के साथ $18 बिलियन का समझौता शामिल है। कंपनी ने अपने ऐप्स में विभिन्न पैरेंटल कंट्रोल सुविधाएं भी पेश की हैं, जैसे कि इंस्टाग्राम पर आत्म-हत्या खोजों के लिए अलर्ट और व्हाट्सएप पर बढ़ी हुई प्राइवेसी सेटिंग्स।
techcrunch