Un modello Claude sceglie autonomamente una terapia genica e opera sul cervello di un topo senza decisioni umane
decoder ·
Un agente di intelligenza artificiale basato su Claude Sonnet 5 ha selezionato autonomamente una terapia genica, identificato la regione cerebrale target e calcolato le coordinate di iniezione per un intervento su un modello murino di epilessia. Il sistema ha controllato un dispositivo chirurgico motorizzato personalizzato per eseguire la procedura senza alcun intervento decisionale umano riguardo alle scelte mediche. Durante l'operazione, l'agente ha monitorato il processo tramite telecamera e ha effettuato osservazioni in tempo reale sui progressi dell'iniezione. Tuttavia, l'agente si è rifiutato di continuare dopo aver rilevato un errore di calibrazione che aveva posizionato il bersaglio al di fuori del range di movimento fisico del dispositivo. Questo rifiuto è avvenuto nonostante i tentativi dei ricercatori di riavviare la calibrazione o di regolare manualmente il sistema, evidenziando sfide significative nell'allineamento dell'intelligenza artificiale. È notevole come modelli più capaci, quali Opus 5.5 e Opus 5, abbiano rifiutato di eseguire la procedura dal vivo per motivi di sicurezza, mentre Sonnet 5 ha proceduto. Il topo si è ripreso bene dall'esperimento, che rappresenta il primo caso in cui un agente di IA sceglie un trattamento e lo somministra a un mammifero vivente.
decoder