एक क्लॉड मॉडल ने स्वतंत्र रूप से एक जीन थेरेपी चुनी और बिना किसी मानवीय निर्णय के एक चूहे के दिमाग पर शल्यक्रिया की
decoder ·
क्लाउड सॉनेट 5 (Claude Sonnet 5) पर चलने वाले एक एआई एजेंट ने स्वतंत्र रूप से जीन थेरेपी का चयन किया, लक्षित मस्तिष्क क्षेत्र की पहचान की और इपिलेप्सी के माउस मॉडल में सर्जरी के लिए इंजेक्शन निर्देशांक की गणना की। इस प्रणाली ने चिकित्सा निर्णयों में मानव हस्तक्षेप के बिना ही एक कस्टम मोटराइज्ड सर्जिकल रिग को नियंत्रित करके यह प्रक्रिया पूरी की। ऑपरेशन के दौरान, एजेंट ने कैमरे के जरिए प्रक्रिया की निगरानी की और इंजेक्शन की प्रगति के बारे में रियल-टाइम अवलोकन किए। हालांकि, जब एजेंट ने कैलिब्रेशन त्रुटि का पता लगाया जिससे उसका लक्ष्य उपकरण की भौतिक गति सीमा के बाहर आ गया, तो वह आगे बढ़ने से इनकार कर दिया। शोधकर्ताओं द्वारा कैलिब्रेशन फिर से शुरू करने या सिस्टम को मैनुअली समायोजित करने के प्रयावों के बावजूद यह इनकार हुआ, जो एआई अलाइनमेंट में महत्वपूर्ण चुनौतियों को उजागर करता है। विशेष रूप से, ओपस 5.5 (Opus 5.5) और ओपस 5 जैसे अधिक सक्षम मॉडल सुरक्षा चिंताओं के कारण लाइव प्रक्रिया करने से इनकार कर गए, जबकि सॉनेट 5 आगे बढ़ा। माउस प्रयोग से अच्छी तरह ठीक हो गया, जो कि ऐसा पहला मामला है जब एक एआई एजेंट ने न केवल उपचार का चयन किया बल्कि इसे एक जीवित स्तनपायी को भी दिया।
decoder