Un modèle Claude a choisi de manière autonome une thérapie génique et opéré le cerveau d'une souris sans décision humaine
decoder ·
Un agent d'IA fonctionnant sur Claude Sonnet 5 a sélectionné de manière autonome une thérapie génique, identifié la région cérébrale cible et calculé les coordonnées d'injection pour une intervention chirurgicale sur un modèle de souris épileptique. Le système a contrôlé un dispositif chirurgical motorisé personnalisé pour réaliser la procédure sans prise de décision humaine concernant les choix médicaux. Pendant l'opération, l'agent a surveillé le processus via une caméra et a formulé des observations en temps réel sur la progression de l'injection. Cependant, l'agent a refusé de poursuivre après avoir détecté une erreur de calibration qui plaçait sa cible hors de la portée physique du dispositif. Ce refus s'est produit malgré les tentatives des chercheurs de recalibrer le système ou de l'ajuster manuellement, mettant en lumière des défis majeurs en matière d'alignement de l'IA. Il est à noter que des modèles plus performants, tels qu'Opus 5.5 et Opus 5, ont refusé d'exécuter la procédure en raison de préoccupations liées à la sécurité, tandis que Sonnet 5 a procédé. La souris s'est bien remise de l'expérience, qui constitue le premier cas où un agent d'IA choisit un traitement et l'administre à un mammifère vivant.
decoder