क्रॉस-रिजन इन्फरेंस के साथ कनाडा से Amazon Bedrock पर OpenAI GPT मॉडल्स तक पहुंच
aws ·
AWS ने कनाडाई संगठनों को Amazon Bedrock के माध्यम से Cross-Region Inference (CRIS) का उपयोग करके OpenAI GPT-5.6, GPT-6 और GPT-6.1 मॉडल्स तक पहुंच प्रदान की है। इस सुविधा के तहत Canada (Central) और Canada West (Calgary) क्षेत्रों से आने वाले अनुरोधों को प्रसंस्करण के लिए US या अन्य वैश्विक क्षेत्रों में रूट किया जाता है, जिससे मांग बढ़ने पर क्षमता में वृद्धि होती है। उपयोगकर्ता 'US geographic' प्रोफाइल चुन सकते हैं, जो इनफरेंस को उत्तरी अमेरिका में ही रखता है, या 'Global' प्रोफाइल, जो एक व्यापक क्षमता पूल का लाभ उठाता है। लेख IAM अनुमतियां स्थापित करने, डेटा निवास के लिए Service Control Policies कॉन्फ़िगर करने और OpenAI Responses API, Chat Completions API तथा Amazon Bedrock Converse API के माध्यम से मॉडल्स को इवोक करने पर विस्तृत मार्गदर्शन प्रदान करता है। इसमें लागत कम करने के लिए प्रॉम्प्ट कैशिंग, प्रति मिनट टोकन के लिए क्वाटा प्रबंधन और CloudTrail व CloudWatch जैसे ऑब्जर्वेबिलिटी टूल्स जैसे व्यावहारिक पहलुओं को भी कवर किया गया है। सुरक्षा उपाय यह सुनिश्चित करते हैं कि डेटा स्रोत क्षेत्र में ही ट्रान्जिट और रेस्ट दोनों अवस्थाओं में एन्क्रिप्ट रहता है, साथ ही गंतव्य क्षेत्रों में सामग्री मॉडरेशन धारण संबंधी विशिष्ट नोट्स शामिल हैं। अंत में, पोस्ट उपयोग की निगरानी, क्वाटा वृद्धि के लिए अनुरोध करना और अनावश्यक चार्ज से बचने के लिए टेस्ट संसाधनों को साफ करने के चरणों का वर्णन करती है।
aws