सियोल और सिंगापुर में इन-रिजन इन्फरेंस के लिए अमेज़न बेड्रॉक पर एंथ्रोपिक मॉडल्स का परिचय
aws ·
Amazon Bedrock ने सील और सिंगापुर क्षेत्रों में Anthropic के Claude Opus 5 और Claude Sonnet 5 मॉडल्स के लिए इन-रिजन इन्फरेंस सपोर्ट लॉन्च किया है। यह अपडेट उन ग्राहकों की मदद करता है जिनके पास कड़े डेटा रेजिडेंसी आवश्यकताएं हैं, खासकर वित्त सेवाओं, स्वास्थ्य सेवाओं और सार्वजनिक क्षेत्र में, ताकि वे AI अनुरोधों को पूरी तरह से अपने चुने गए क्षेत्र के भीतर ही प्रोसेस कर सकें बिना डेटा को उस सीमा से बाहर जाने दिए। क्रॉस-रिजन प्रोफाइल्स के विपरीत, इस सेवा में एक डायरेक्ट रूटिंग लेयर का उपयोग होता है जहां इनपुट प्रॉम्प्ट और आउटपुट विशिष्ट AWS रिजन तक ही सीमित रहते हैं। घोषणा में उल्लेख किया गया है कि थ्रूपुट क्षेत्रीय क्षमता द्वारा सीमित है और प्रति-रिजन सेवा क्वाटा के अधीन है, जबकि बिलिंग मानक ऑन-डिमांड प्राइसिंग का पालन करती है। उपयोगकर्ता Amazon Bedrock कॉन्सोल प्लेग्राउंड या bedrock-runtime एंडपॉइंट का उपयोग करके प्रोग्रामेटिक रूप से इन सुविधाओं तक पहुंच सकते हैं। इंटीग्रेशन विकल्पों में Anthropic Messages API, साथ ही AWS SDKs और CLI के माध्यम से Amazon Bedrock InvokeModel और Converse APIs शामिल हैं। लेख Python में Boto3 और Anthropic SDK का उपयोग करके कोड उदाहरण प्रदान करता है जो दिखाता है कि कैसे सील और सिंगापुर दोनों में इन मॉडल्स को इंकॉक किया जाए।
aws