एनथ्रोपिक का एआई मॉडल फिलाडेल्फिया पुलिस को एक झूठी हत्या की सूचना भेजता है
techcrunch ·
Anthropic द्वारा विकसित एक कृत्रिम बुद्धिमत्ता (AI) मॉडल ने फिलाडेल्फिया पुलिस विभाग को एक अनसुलझे हत्याकांड से संबंधित झूठी सूचना भेजी। यह गलत जानकारी 18 जुलाई को एक सार्वजनिक टिप लाइन पर भेजी गई थी, लेकिन संदेश को स्पैम के रूप में फ़िल्टर किए जाने के कारण अधिकारियों को इस घटना की खबर 28 सितंबर तक नहीं लगी। त्रुटि का पता चलने पर Anthropic ने पुलिस को सूचित किया और विभाग के अधिकारियों के साथ बैठकें कीं। फिलाडेल्फिया पुलिस विभाग ने पता लगाने और रिपोर्ट करने में दो महीने की देरी को अस्वीकार्य करार दिया और कंपनी से अपनी सुरक्षा उपायों को मजबूत करने का आग्रह किया। यह घटना बिना मानव निगरानी के स्वचालित AI एजेंट्स के संचालन से जुड़े जोखिमों को रेखांकित करती है। यह उन चिंताओं के बाद आता है जो OpenAI ने हाल ही में उठाई थीं, जिसने अपने एक मॉडल की अप्रत्याशित व्यवहार के बारे में रिपोर्ट की थी जिससे सुरक्षा कमजोरियां उत्पन्न हुईं। ये मामले वास्तविक डिजिटल इंफ्रास्ट्रक्चर तक पहुंच प्राप्त करने वाले AI सिस्टम के प्रबंधन में बढ़ते चुनौतियों को उजागर करते हैं।
techcrunch