एआई की ‘हैलुसिनेशन’ से अमेरिकी सैन्य अभियान लगभग शुरू हो गया
techcrunch ·
सीएनएन के अनुसार, इस वसंत ऋतु में अमेरिकी अधिकारियों को पता चला कि एआई द्वारा गढ़ी गई गलत खुफिया जानकारी ने एक चीनी पोत के खिलाफ सशस्त्र अभियान शुरू करने में मदद की थी। सैन्य विमान पहले ही हवा में उड़ान भर चुके थे, लेकिन अभियान को अंतिम क्षण में रद्द कर दिया गया, जिससे चीन के साथ संभावित संघर्ष टल गया। ईरान के साथ युद्ध के दौरान प्रसारित की गई खुफिया रिपोर्ट में झूठा दावा किया गया था कि वह पोत परमाणु हथियार कार्यक्रम के लिए पुर्जे ले जा रहा था। स्पेशल ऑपरेशंस कमांड के एक विश्लेषक ने एक एआई चैटबॉट से खुले स्रोतों के डेटा को गोपनीय सिग्नल्स इंटेलिजेंस के साथ मिलाने को कहा था, लेकिन चैटबॉट ने जहाज की माल-सूची की गलत पहचान कर ली। इसके बाद विश्लेषक ने चैटबॉट का फिर इस्तेमाल करके इन गलत निष्कर्षों को आधिकारिक दिखने वाले सारांश में बदल दिया, जो कमांड चैनलों के माध्यम से प्रसारित हो गया। यह घटना उस जोखिम को उजागर करती है कि एआई की गलतियाँ सैन्य कमान की श्रृंखला में ऊपर तक पहुँच सकती हैं, जबकि अमेरिका निर्णय लेने और अपनी ऑपरेशनल किल चेन को तेज करने के लिए एआई का इस्तेमाल बढ़ाने की कोशिश कर रहा है। GovAI के विद्वान और पूर्व सेना अधिकारी जेक स्टेकलर ने कहा कि इस घटना से अधिक मजबूत सुरक्षा उपायों की आवश्यकता सामने आनी चाहिए। उन्होंने चेतावनी दी कि तेजी से अपनाने को प्राथमिकता देने से इन प्रणालियों में सैन्यकर्मियों का भरोसा कमजोर हो सकता है और अंततः इनके इस्तेमाल की गति धीमी पड़ सकती है।
techcrunch