कोडिंग एजेंट के साथ Amazon SageMaker AI पर Hugging Face मॉडल तैनात करें
aws ·
AWS की यह पोस्ट बताती है कि Hugging Face Skills रिपॉज़िटरी की छह ओपन-सोर्स स्किल्स का उपयोग करके कोडिंग एजेंट Amazon SageMaker AI पर Hugging Face मॉडल तैनात कर सकते हैं। इन स्किल्स के बिना, Kiro और Claude Code जैसे एजेंटों ने Qwen3 के लिए असंगत या पुराने Text Generation Inference कंटेनर का चयन किया, जिसके कारण तैनाती विफल हुई और अनावश्यक GPU शुल्क लगा। ये स्किल्स एजेंटों को AWS संदर्भ की खोज, समर्थित Python वातावरण तैयार करने, IAM भूमिका सत्यापित करने, AWS Deep Learning Containers कैटलॉग से सर्विंग इमेज चुनने और प्रोडक्शन डिफ़ॉल्ट के साथ तैनाती करने में मार्गदर्शन देती हैं। इन डिफ़ॉल्ट में ऑटोस्केलिंग, Amazon CloudWatch के तीन अलार्म, स्मोक टेस्टिंग, लॉगिंग और सत्यापित टियरडाउन प्रक्रिया शामिल हैं। उदाहरण में Qwen/Qwen3-0.6B को रियल-टाइम एंडपॉइंट पर तैनात किया गया है, जबकि ये स्किल्स स्केल-टू-ज़ीरो, सर्वरलेस, एसिंक्रोनस, बैच और Amazon Bedrock Custom Model Import तैनातियों का भी समर्थन करती हैं। ये स्किल्स Python और AWS CLI का उपयोग करती हैं, macOS, Linux और Windows पर काम करती हैं और इनके लिए समर्थित Python तथा AWS खाते की आवश्यक अनुमतियाँ चाहिए। पोस्ट में यह भी बताया गया है कि रियल-टाइम एंडपॉइंट हटाए जाने तक इंस्टेंस शुल्क लेते रहते हैं।
aws