देखिए, एआई का सर्वनाश कैसा दिख सकता है
wired ·
WIRED के “Uncanny Valley” के इस एपिसोड में अमूर्त रूप से बहस करने के बजाय यह जांचा गया है कि AI से होने वाली कोई तबाही कैसी दिख सकती है। Brian Barrett, Zoë Schiffer और Leah Feiger ने चिंताओं को तीन व्यापक परिदृश्यों में बांटा है: AI की मदद से महत्वपूर्ण बुनियादी ढांचे में हैकिंग, AI की सहायता से या स्वायत्त रूप से जैव-हथियारों का निर्माण और उन्हें जारी करना, तथा ऐसी प्रणालियां जो मानवीय नियंत्रण से बाहर निकलकर अपने लक्ष्य साधने लगें। वे AI एजेंटों और साइबर हमलों से जुड़ी रिपोर्ट की गई घटनाओं पर चर्चा करते हैं, जिनमें उपयोगिता सेवाओं को निशाना बनाने की धमकियां भी शामिल हैं। हालांकि, वे यह भी बताते हैं कि मौजूदा उदाहरणों में मानव कर्ता शामिल रहे हैं और जरूरी नहीं कि उनमें हमले के नए तरीके इस्तेमाल हुए हों। मेजबान कम तात्कालिक संभावनाओं पर भी विचार करते हैं, जैसे AI द्वारा ऐसी झूठी चेतावनी उत्पन्न करना जो परमाणु संकट में योगदान दे, या उसका खुद को बार-बार बेहतर बनाते जाना; साथ ही वे स्वीकार करते हैं कि इनमें से कुछ परिदृश्य अधिक काल्पनिक हैं। एपिसोड में Sam Altman, Dario Amodei और Jensen Huang के सुरक्षा, नियमन, अंतरराष्ट्रीय समन्वय और चीन के साथ प्रतिस्पर्धा संबंधी बयानों की समीक्षा की गई है, और यह सवाल उठाया गया है कि क्या अस्तित्वगत जोखिम की भाषा कंपनियों के हितों की भी सेवा कर सकती है। इसका समापन अनियंत्रित AI के खिलाफ उभरते द्विदलीय विरोध के उल्लेख के साथ होता है, जिसमें Bernie Sanders और Steve Bannon की साझा उपस्थिति भी शामिल है, जबकि निकट भविष्य में अमेरिकी कानून बनने की संभावनाएं सीमित हैं।
wired