NVIDIA DGX Spark 64GB डेवलपर्स को लोकल AI बनाने और स्केल करने के लिए अधिक तरीके देता है
nvidia ·
NVIDIA ने DGX Spark की 64GB कॉन्फ़िगरेशन के साथ अपने स्थानीय AI क्षमताओं का विस्तार किया है, जो 23 अक्टूबर से Acer, ASUS, Dell और HP जैसे प्रमुख पार्टनर्स के माध्यम से उपलब्ध होगी। यह कॉम्पैक्ट सुपरकंप्यूटर GB10 ग्रेस ब्लैकवेल सुपरचिप और यूनिफाइड मेमोरी से लैस है, जिससे डेवलपर्स क्लाउड निर्भरता के बिना 100 बिलियन पैरामीटर तक के मॉडल्स को पूरी तरह से डिवाइस पर चला सकते हैं। सिस्टम DGX OS और पूर्ण NVIDIA AI सॉफ्टवेयर स्टैक के साथ पूर्व-कॉन्फ़िगर आता है, जो Ollama, vLLM और PyTorch जैसे लोकप्रिय फ्रेमवर्क्स को बाहर से ही समर्थन प्रदान करता है। कार्यभार को स्केल करने के लिए, ConnectX-7 नेटवर्किंग के माध्यम से NVIDIA Sync Cluster Assistant का उपयोग करके दो इकाइयों को क्लस्टर में जोड़ा जा सकता है, जिससे मेमोरी 128GB तक बढ़ जाती है और प्रदर्शन में 1.7 गुना तक वृद्धि होती है। इस क्लस्टरिंग क्षमता के कारण बड़े मॉडल्स या समवर्ती एजेंट अनुरोधों को संभाला जा सकता है, जबकि नोड्स के बीच सॉफ्टवेयर संगतता निरंतर बनी रहती है। इसके अतिरिक्त, NVIDIA Sync Model Launcher जैसे आगामी टूल्स डेवलपर्स के लिए स्थानीय AI अनुप्रयोगों की तैनाती को सरल बनाने के उद्देश्य से लाए गए हैं। यह डिवाइस $4,999 से शुरू होता है, जो व्यक्तिगत AI सुपरकंप्यूटिंग और एज विकास के लिए एक सुलभ प्रवेश द्वार के रूप में अपनी स्थिति बनाता है।
nvidia