एन्थ्रोपिक एआई मॉडलों की पहचान साबित करने के लिए एक सिस्टम पर काम कर रहा है
techcrunch ·
एन्थ्रोपिक (Anthropic) फ्लैशप्रूव (FlashProve) नामक एक ओपन-सोर्स सिस्टम विकसित कर रहा है, जो यह क्रिप्टोग्राफिक रूप से सत्यापित करने के लिए डिज़ाइन किया गया है कि किसी विशिष्ट आउटपुट को किस एआई मॉडल ने जनरेट किया। यह तकनीक 'प्रूवेबल इनफरेंस' (provable inference) प्रदान करने का लक्ष्य रखती है, जिससे उपयोगकर्ताओं को दावा किए गए मॉडल्स से प्राप्त उत्तरों की प्रामाणिकता की पुष्टि करने में सहायता मिले। यह सिस्टम नकली मॉडलों से बचाव करता है, जिसमें ऐसे परिदृश्य भी शामिल हैं जहां कोई प्रदाता लागत कम करने या प्रदर्शन के आंकड़ों को बढ़ा-चढ़ाकर दिखाने के लिए गुप्त रूप से मॉडल बदल सकता है। इस सिस्टम को काम करने के लिए, प्रयोगशालाओं को अपने मॉडल्स के अनोखे फिंगरप्रिंट प्रकाशित करने होंगे, बिना अपनी स्वामित्व वाली वेट्स (weights) को उजागर किए, जिससे स्थानीय उपकरणों पर सत्यापन संभव हो सके। शोधकर्ताओं ने टेक्निकल स्पेसिफिकेशन और कोड गिटहब (GitHub) पर जारी किया है, जिसे अंतिम उत्पाद के बजाय चल रहे कार्य के हिस्से के रूप में पेश किया गया है। इसका उद्देश्य तीसरे पक्षों को यह सत्यापित करने की अनुमति देना है कि किस उन्नत मॉडल ने विशिष्ट कार्यों को पूरा किया। एन्थ्रोपिक स्पष्ट रूप से इस मध्यवर्ती प्रगति को साझा कर रहा है ताकि समुदाय में सुधार और सहयोग को प्रोत्साहित किया जा सके।
techcrunch