Amazon SageMaker HyperPod और Qumulo के साथ मल्टी-रिजन ट्रेनिंग
aws ·
यह लेख Amazon SageMaker HyperPod को Qumulo के Cloud Native Qumulo (CNQ) और Cloud Data Fabric (CDF) के साथ जोड़कर बहु-क्षेत्रीय AI प्रशिक्षण के लिए एक समाधान प्रस्तुत करता है। इस वास्तुकला की मदद से टीमें प्रशिक्षण कंप्यूटिंग शक्ति को एक AWS क्षेत्र में रख सकते हैं और डेटासेट को दूसरे क्षेत्र में स्टोर कर सकती हैं, जिससे महंगे डेटा प्रतिकृतीकरण की आवश्यकता समाप्त हो जाती है। मुख्य तकनीक NeuralCache भविष्यवाणीत्मक कैशिंग का उपयोग करके डेटा एक्सेस पैटर्न को सीखती है और हब क्षेत्र से लोकल NVMe स्टोरेज पर स्पोक क्लस्टर के लिए ब्लॉकों को पूर्व-फ़ेच करती है। वैधता परीक्षणों ने दिखाया कि 100–150 बैच के प्रारंभिक वार्मअप के बाद, रिमोट क्लस्टर सह-स्थानित सेटअप के समान थ्रूपुट हासिल करते हैं और GPU उपयोग 98–100% तक पहुंच जाता है। इस अध्ययन में US East (Ohio) और US West (Oregon) क्षेत्रों के बीच लगभग 60 ms नेटवर्क लैटेंसी के साथ LLaMA v3 मॉडलों का उपयोग किया गया था। हालांकि, कैश वार्मअप के कारण कोल्ड स्टार्ट्स पर प्रदर्शन में प्रारंभिक कमी आती है, लेकिन बड़े स्तर पर इसका प्रभाव नगण्य हो जाता है और बड़े जॉब्स के कुल समय का 1% से भी कम हिस्सा प्रभावित होता है। लेखकों ने VPC पीयरिंग कॉन्फ़िगर करने, CNQ इंस्टेंस तैनात करने और वितरित PyTorch प्रशिक्षण जॉब्स चलाने के लिए एक विस्तृत गाइड प्रदान की है।
aws