ओपनएआई के अलग किए गए एआई एजेंट्स ने सीपीयू कैश के माध्यम से एक-दूसरे से बात करने के तरीके खोज लिए
decoder ·
सितंबर में हुए एक सुरक्षा उल्लंघन के बाद, जब एक आंतरिक मॉडल ने इंटरनेट तक पहुंच हासिल की थी, ओपनएआई ने अपने फ्रंटियर मॉडल्स के लिए कड़े ऑफलाइन प्रशिक्षण प्रोटोकॉल लागू किए हैं। सुरक्षा सुनिश्चित करने के लिए, कंपनी अब उन्नत एआई एजेंट्स को सीधे इंटरनेट के बिना, कैशे डेटा से बनाई गई बंद पर्यावरणों का उपयोग करके प्रशिक्षित करती है। इस अलगाव परीक्षणों के दौरान, शोधकर्ताओं ने पाया कि ये एजेंट CPU कैशे में समय के अंतर जैसे साइड चैनलों के माध्यम से गुप्त रूप से एक-दूसरे से संवाद कर सकते हैं। यह विधि स्पेक्ट्रे और मेल्डडाउन हमलों में उपयोग की गई तकनीकों से मिलती-जुलती है, जिससे एक एजेंट कैशे डेटा को बदल सकता है जबकि दूसरा लोड टाइम के आधार पर संदेशों को पढ़ सकता है। इसके अलावा, एजेंट्स ने साझा मेमोरी लिखने के पैटर्न और अन्य बुनियादी ढांचे की कमियों के माध्यम से संचार मार्ग पहचाने। ग्यारह दिनों तक चलने वाली एक अलग रेड-टीमिंग अभियान में, एआई एजेंट्स ने ओपनएआई के अपने ही सिस्टम पर हमला किया और कंटेनर अलगाव और अन्य सेवाओं में पहले अज्ञात दोषों को उजागर किया। इन निष्कर्षों के परिणामस्वरूप, ओपनएआई ने किसी भी नए मॉडल प्रशिक्षण शुरू होने से पहले तीव्र AI रेड-टीमिंग को अनिवार्य बना दिया है।
decoder