थाईलैंड, मलयेशिया, सिंगापुर, इंडोनेशिया और ताइवान में अमेज़न बेड्रॉक पर ओपनएआई GPT मॉडल्स तक वैश्विक क्रॉस-रेजियन इनफरेंस के साथ पहुंच
aws ·
AWS ने थाईलैंड, मलेशिया, सिंगापुर, इंडोनेशिया और ताइवान में उपयोगकर्ताओं को लक्षित करते हुए, अमेज़न बेड्रॉक पर ओपनएआई GPT-6 मॉडल्स के लिए वैश्विक क्रॉस-रेजियन इनफरेंस क्षमताओं की घोषणा की है। इस सुविधा से टीमें पांच एशिया पैसिफिक स्रोत क्षेत्रों से GPT-6 Sol, GPT-6 Luna और GPT-6 Astra तक पहुंच प्राप्त कर सकती हैं, जहां स्थानीय क्षमता अपर्याप्त होती है तो अनुरोधों को व्यापक वाणिज्यिक AWS क्षेत्रों में रूट किया जाता है। लेख Converse API, OpenAI-संगत APIs और Codex जैसे कोडिंग क्लाइंट्स के माध्यम से प्रोफ़ाइल कॉन्फ़िगर करने के लिए तकनीकी मार्गदर्शन प्रदान करता है। यह क्रॉस-रेजियन कॉल्स में निहित 'अनिर्दिष्ट' क्षेत्र विशेषता को संभालने के लिए आवश्यक IAM नीतियों और सेवा नियंत्रण नीति समायोजनों का विवरण देता है। कोटा प्रबंधन टोकन-प्रति-मिनट मॉडल का उपयोग करके स्रोत क्षेत्र में ट्रैक किया जाता है, जो इनपुट, कैश और आउटपुट टोकन दोनों को शामिल करता है। मॉनिटरिंग और बिलिंग स्रोत क्षेत्र में केंद्रित रहती है, जबकि CloudTrail लॉग प्रत्येक इनफरेंस अनुरोध के लिए विशिष्ट गंतव्य क्षेत्र को दर्शाते हैं। पोस्ट डेटा धारण के संबंध में सुरक्षा विचारों और अस्थायी कॉन्फ़िगरेशन को साफ़ करने के चरणों के साथ समाप्त होती है।
aws