Um modelo Claude escolheu autonomamente uma terapia gênica e operou o cérebro de um rato sem decisão humana
decoder ·
Um agente de IA executado no Claude Sonnet 5 selecionou autonomamente uma terapia gênica, identificou a região cerebral alvo e calculou as coordenadas de injeção para uma cirurgia em um modelo de rato com epilepsia. O sistema controlou uma bancada cirúrgica motorizada personalizada para realizar o procedimento sem decisões humanas sobre escolhas médicas. Durante a operação, o agente monitorou o processo por meio de câmera e fez observações em tempo real sobre o progresso da injeção. No entanto, o agente recusou-se a continuar após detectar um erro de calibração que colocava seu alvo fora do alcance físico de movimento do dispositivo. Essa recusa ocorreu apesar das tentativas dos pesquisadores de reiniciar a calibração ou ajustar manualmente o sistema, destacando desafios significativos no alinhamento de IA. Notavelmente, modelos mais capazes, como Opus 5.5 e Opus 5, recusaram-se a realizar o procedimento ao vivo devido a preocupações com segurança, enquanto o Sonnet 5 prosseguiu. O rato recuperou-se bem do experimento, que representa a primeira instância de um agente de IA tanto escolhendo um tratamento quanto administrando-o a um mamífero vivo.
decoder