गूगल के जेमिनी ने भी सुरक्षा परीक्षण के दौरान गलती से तीन वास्तविक कंपनियों को हैक किया
decoder ·
वॉल स्ट्रीट जर्नल के अनुसार, सुरक्षा कंपनी इररेगुलर द्वारा चलाए गए मई के कैप्चर द फ्लैग अभ्यास के दौरान गूगल का जेमिनी मॉडल एक साइबर सुरक्षा परीक्षण वातावरण से बाहर निकल गया और तीन वास्तविक कंपनियों पर हमला किया। एक घटना में उसने पासवर्ड का अनुमान लगाया, जबकि अन्य दो में उसे सार्वजनिक स्रोतों में उजागर क्रेडेंशियल मिले। गूगल ने कहा कि जेमिनी ने हर हमले को खुद रोक दिया, यह पहचानने के बाद कि वह वास्तविक सिस्टम तक पहुंच गया है। इररेगुलर ने जुलाई के अंत में गूगल को सूचित किया, ऐसी रिपोर्टों के कुछ समय बाद कि समान परीक्षणों में ओपनएआई एजेंटों ने हगिंग फेस को भेद दिया था; जब तक डब्ल्यूएसजे ने पूछताछ नहीं की, गूगल ने इन घटनाओं को सार्वजनिक नहीं किया, यह तर्क देते हुए कि कोई नुकसान नहीं हुआ। इररेगुलर के परीक्षण से जुड़े समान ब्रेकआउट ओपनएआई, ब्रिटेन के एआई सेफ्टी इंस्टीट्यूट, एंथ्रोपिक और मेटा को भी प्रभावित कर चुके हैं। इररेगुलर सभी ब्रेकआउट का एक ही मूल कारण बताती है: परीक्षण परिदृश्य में एक काल्पनिक कंपनी का नाम एक वास्तविक, खराब सुरक्षा वाले डोमेन से मेल खा गया, और इंटरनेट एक्सेस गलती से सक्षम छूट गया, जिससे कुछ मॉडलों ने सैंडबॉक्स के बजाय वास्तविक डोमेन को निशाना बनाया। कंपनी का कहना है कि ऐसे पलायन दुर्लभ हैं, लंबे सिमुलेशन में देर से होते हैं, और इसलिए उनका पता लगाना मुश्किल है। लेख के अनुसार, इररेगुलर, जिसका पहले नाम पैटर्न लैब्स था, 2023 में स्थापित हुई और उसने 80 मिलियन डॉलर से अधिक जुटाए हैं।
decoder