क्या आपका मॉडल AWS Trainium पर चलता है? इसे यहाँ देखें
huggingface ·
Hugging Face ने AWS Trainium पर TorchNeuron बैकएंड का उपयोग करके अपने मॉडल्स के चलने की जांच करने के लिए एक नया Space पेश किया है। यह टूल उपयोगकर्ताओं को नाम से लोकप्रिय मॉडल्स खोजने या ट्रेंडिंग और डाउनलोड की गई सूचियों में ब्राउज़ करके संगतता की स्थिति देखने की सुविधा देता है। इंटरफ़ेस प्रत्येक परीक्षण किए गए मॉडल के लिए Trainium कोरों की संख्या, कंपाइलेशन समय और शीर्ष मेमोरी उपयोग जैसे प्रमुख मापदंड प्रदर्शित करता है। उपयोगकर्Trainium2 इकाइयों पर इन मॉडल्स को स्वयं चलाने के लिए आवश्यक विशिष्ट पायथन स्क्रिप्ट्स तक भी पहुंच सकते हैं। परीक्षण प्रक्रिया में टेन्सर या एक्सपर्ट पैरेलेलिज्म के साथ मॉडल्स लोड करना और CPU रनों या फ्लुएन्सी जांचों के सापेक्ष आउटपुट सटीकता की पुष्टि करना शामिल है। वर्तमान में डेटाबेस उन टेक्स्ट-जनरेशन और इमेज-टेक्स्ट-टू-टेक्स्ट मॉडल्स पर केंद्रित है जो चार Trainium2 डिवाइसों में फिट बैठते हैं। सभी परीक्षण परिणाम एक सार्वजनिक डेटासेट में संग्रहीत हैं, जिससे डेवलपर कोड के माध्यम से सीधे संगतता डेटा को क्वेरी कर सकते हैं।
huggingface