AWS CDK के साथ SageMaker AI एंडपॉइंट ऑटो स्केलिंग का संचालन
aws ·
AWS CloudFormation या CDK के माध्यम से Amazon SageMaker AI रियल-टाइम एंडपॉइंट कॉन्फ़िगरेशन को अपडेट करने की प्रक्रिया अक्सर विफल हो जाती है, क्योंकि SageMaker में परिवर्तन लागू करने से पहले स्केलेबल टारगेट को डीरजिस्टर (deregister) करना आवश्यक होता है। हालांकि, मैन्युअल डीरजिस्टरेशन से CloudFormation ऑटो-स्केलिंग संसाधनों का ट्रैक खो सकता है या स्टैक्स बिगड़े हुए स्थिति में छोड़ सकता है। इस समस्या को हल करने के लिए, लेख एक पुनः उपयोग योग्य CDK कन्स्ट्रक्ट पेश करता है जो कस्टम संसाधनों का उपयोग करके डीरजिस्टर और रीरजिस्टर प्रक्रिया को स्वचालित करता है। यह समाधान सुनिश्चित करता है कि एंडपॉइंट अपडेट और ऑटो-स्केलिंग पैरामीटर बदलाव बिना किसी मैन्युअल हस्तक्षेप के एक ही डिप्लॉयमेंट में किए जा सकें। कन्स्ट्रक्ट तीन कस्टम संसाधनों का उपयोग करता है जिनकी स्पष्ट निर्भरता क्रम है: पहले टारगेट को डीरजिस्टर करने वाला, उसके बाद एंडपॉइंट अपडेट, और फिर टारगेट को रजिस्टर करने और स्केलिंग पॉलिसी को अटैच करने वाले दो असिंक्रोनस संसाधन। ये असिंक्रोनस घटक स्केलिंग नियमों को लागू करने से पहले सुनिश्चित करने के लिए वेटर पैटर्न (waiter pattern) का उपयोग करते हैं कि एंडपॉइंट पूरी तरह संचालन में हो। इसमें पहली बार डिप्लॉयमेंट और स्टैक डिलीशन को सहज रूप से संभालने के लिए विशिष्ट लॉजिक शामिल है। उपयोगकर्ता इस कन्स्ट्रक्ट को मौजूदा स्टैक्स में इंटीग्रेट कर सकते हैं या दिए गए GitHub रिपॉजिटरी से स्टैंडअलोन उदाहरण के रूप में इसे डिप्लॉय कर सकते हैं।
aws