क्या एआई व्याख्या योग्यता एक ब्रेकथ्रू के करीब है? एक नई निबंध ने शोधकर्ताओं को विभाजित कर दिया
decoder ·
निक कमीराटा द्वारा लिखित एक नई निबंध में तर्क दिया गया है कि न्यूरल नेटवर्क पहले माने जाने से काफी अधिक व्याख्या योग्य हैं, जिसने सुपरपोजिशन परिकल्पना को चुनौती दी है। कमीराटा ने इनसेप्शनV1 में पाए गए बहु-सामग्री वाले न्यूरॉन्स जैसे प्रसिद्ध उदाहरणों का पुनर्व्याख्या किया है, जिन्हें अब असंबंधित अवधारणाओं के बजाय साझा ज्यामितीय आकारों के डिटेक्टर के रूप में देखा जाता है। उनका सुझाव है कि आधुनिक स्वचालित विश्लेषण उपकरण यह दर्शाते हैं कि अधिकांश न्यूरॉन्स की एक प्राथमिक कार्यप्रणाली होती है, और केवल एक छोटा हिस्सा ही अस्पष्ट रहता है। इस दृष्टिकोण से संकेत मिलता है कि मैकेनिस्टिक इंटरप्रेटेबिलिटी (यांत्रिक व्याख्यात्मकता) कई शोधकों के अनुमान से कहीं अधिक करीब हो सकती है। इस निबंध ने एआई समुदाय में विवाद पैदा कर दिया है; कुछ इसे वैज्ञानिक इतिहास का महत्वपूर्ण क्षण मानते हैं, जबकि अन्य सशंकित हैं। ओपनएआई के रून ने इस काम को एआई सुरक्षा और एलाइनमेंट प्रयासों के लिए परिवर्तनकारी माना है, वहीं गूगल डीपमाइंड के नील नंदा ने इसे उपयोगी लेकिन क्रांतिकारी नहीं बताया है, यह बनाए रखते हुए कि सुपरपोजिशन वास्तविक है और वे मोनोसेमैंटिसिटी को अलग तरह से परिभाषित करते हैं। यह बहस एआई के आंतरिक कार्यों को पूरी तरह से समझने की सीमा को लेकर चल रहे मतभेदों को उजागर करती है।
decoder