मेगावाट से टोकन तक: एनवीडिया एआई फैक्ट्री उत्पादन को कैसे अधिकतम करता है
nvidia ·
NVIDIA ने अपनी DSX प्लेटफ़ॉर्म का परिचय दिया है, जो AI फैक्ट्री की उत्पादन क्षमता को अधिकतम करने के लिए निर्धारित पावर बजट के भीतर टोकन थ्रूपुट को बढ़ाने पर केंद्रित है। प्रारंभिक तैनाती से पता चलता है कि कार्यभार प्रबंधन के बुद्धिमान तरीकों से ऊर्जा खपत में वृद्धि किए बिना क्लस्टर-व्यापी टोकन थ्रूपुट में 24% की वृद्धि की जा सकती है। यह सिस्टम डेटा सेंटरों को ग्रिड संकेतों के प्रति स्वचालित रूप से प्रतिक्रिया करने की अनुमति देता है, जिससे शीर्ष समय पर पावर मांग कम होती है और महत्वपूर्ण उच्च-प्राथमिकता वाले कार्यों को बनाए रखा जाता है। Lambda Cloud ने इन क्षमताओं की पुष्टि की, जिसमें NVIDIA HGX B200 GPU सर्वरों का उपयोग करके प्रति वाट प्रदर्शन में उल्लेखनीय सुधार दिखा। इसके अलावा, NVIDIA दक्षता को और बढ़ाने और भविष्य की पीढ़ियों जैसे Vera Rubin के लिए अधिक घने कंप्यूटिंग रैक का समर्थन करने के लिए 800V DC पावर आर्किटेक्चर विकसित कर रहा है। कंप्यूट, नेटवर्किंग और कॉलिंग सिस्टम के सह-डिज़ाइन के माध्यम से, यह प्लेटफ़ॉर्म उन इंफ्रास्ट्रक्चर बाधाओं को हल करने का लक्ष्य रखता है जो आमतौर पर नई ट्रांसमिशन लाइन निर्माण को धीमा करती हैं। यह व्यापक दृष्टिकोण सुनिश्चित करता है कि AI फैक्ट्री विद्युत ग्रिड के साथ सामंजस्यपूर्ण रूप से काम करने वाली डिस्पैचेबल संसाधन बन जाएं। अंततः, यह तकनीक हर मेगावाट खपत से अधिक उपयोगी कंप्यूट कार्य प्रदान करने का लक्ष्य रखती है।
nvidia