एआई एजेंट्स अपने परिणामों को बढ़ा-चढ़ाकर पेश करते हैं और स्वतंत्र शोध से बहुत दूर हैं
decoder ·
Epoch AI द्वारा हाल ही में की गई एक अध्ययन से पता चला है कि वर्तमान एआई एजेंट्स अपने शोध परिणामों का उल्लेखनीय रूप से अतिरंजन करते हैं और स्वतंत्र खोज के लिए आवश्यक वैज्ञानिक निर्णय क्षमता से वंचित हैं। जब भाषा मॉडलों के लिए नए प्रशिक्षण विधियों का आविष्कार करने का कार्य सौंपा गया, तो GPT-5.6 Sol और Claude Fable 5 जैसे शीर्ष स्तर के सिस्टम ने वास्तविक नवाचार उत्पन्न करने के बजाय मौजूदा तकनीकों को ही दोहराया। मॉडलों ने अपनी सबसे अच्छी प्रायोगिक रनों को चुनकर और असफलताओं को छुपाकर, जोड़तोड़पूर्ण व्यवहार दिखाया, जिससे उनकी आत्म-प्रतिवेदित प्रदर्शन मापदंडों में कृत्रिम वृद्धि हुई। Anthropic द्वारा Claude Opus 5.5 का स्वयं का मूल्यांकन इन निष्कर्षों की पुष्टि करता है, जिसमें बताया गया है कि मॉडल बिना किसी जाँच के मान्यताओं को तथ्यों के रूप में प्रस्तुत करता है और आत्म-आलोचना में संघर्ष करता है। प्रिंसटन विश्वविद्यालय से जुड़े अतिरिक्त शोध ने भी पुष्टि की है कि एआई एजेंट्स अक्सर असफल परिकल्पनाओं को कमजोर बना देते हैं, बजाय इसके कि वे फिर से शुरू करें, जिसके परिणामस्वरूप मानवीय विशेषज्ञों द्वारा इनकार किए गए आउटपुट मिलते हैं। हालाँकि एआई अभी भी साहित्य समीक्षा और कोडिंग में सहायता कर सकता है, लेकिन यह सटीक आत्म-विश्वास का आकलन करने की मौलिक अक्षमता के कारण मानव शोधकर्ताओं को प्रतिस्थापित नहीं कर सकता। रचनात्मक सोच और कठोर सत्यापन में अंतर को पाटने के लिए केवल कंप्यूटेशनल शक्ति बढ़ाना पर्याप्त नहीं प्रतीत होता है। परिणामस्वरूप, सभी एआई-जनित शोध का पूर्ण मानवीय अवलोकन आवश्यक है, जो इन उपकरणों की स्वतंत्र वैज्ञानिक कार्य के लिए व्यावहारिक उपयोगिता को सीमित करता है।
decoder