ऑक्टैव ने अमेज़न बेड्रॉक पर सुरक्षित मल्टी-टेनेंट एआई फाउंडेशन कैसे बनाया
aws ·
ऑक्टैव रिलायंस ने विनियमित उद्योगों के लिए संस्थागत स्मृति को सुरक्षित रूप से उपलब्ध कराते हुए डेटा अलगाव को बनाए रखने के लिए अमेज़न बेड्रॉक पर एक सुरक्षित, मल्टी-टेनेंट AI आधारभूत ढांचा विकसित किया। टीम ने कड़े टेनेंट पृथक्करण, अलग किए गए एजेंट निष्पादन, अप्रत्याशित इनपुट हैंडलिंग और दो बिलियन दस्तावेज़ों की उच्च-थ्रूपुट एम्बेडिंग से जुड़ी चार प्रमुख चुनौतियों को संबोधित करने के लिए व्यक्तिगत सुविधाओं के बजाय एक क्षैतिज प्लेटफ़ॉर्म बनाने को प्राथमिकता दी। बहुभाषी और बहुआयामी पुनर्प्राप्ति के लिए कोहेरे एम्बेड v4 का उपयोग करते हुए, सिस्टम ने विविध प्रकार के दस्तावेज़ों में सटीकता बनाए रखते हुए भंडारण दक्षता में महत्वपूर्ण सुधार किया। अमेज़न बेड्रॉक एजेंटकोर द्वारा समर्पित माइक्रोVMs और प्रति-उपयोगकर्ता पहचान प्रचार का उपयोग करके क्रॉस-टेनेंट डेटा लीक को रोककर सुरक्षा को लागू किया गया। इसके अलावा, अमेज़न बेड्रॉक गार्डरेल्स ने इनपुट और आउटपुट को कई चरणों में फ़िल्टर करके प्रॉम्प्ट इंजेक्शन और संवेदनशील जानकारी के खुलासे के खिलाफ गहराई से रक्षा प्रदान की। परिणामस्वरूप, शिकायत ट्रायज असिस्टेंट ने गुणवत्ता हैंडलर्स के लिए प्रासंगिक ऐतिहासिक संदर्भ को स्वचालित रूप से जोड़कर जांच के समय को घंटों से कम करके मिनटों में कर दिया। इस अभियांत्रिकी दृष्टिकोण ने नए AI उपयोग मामलों के डिप्लॉयमेंट समय को 50 प्रतिशत तक कम कर दिया, जिससे ऑक्टैव ने निर्धारित समय से पहले ही सेमांटिक सर्च क्षमताएं प्रदान कीं।
aws