Un modelo de Claude eligió autónomamente una terapia génica y operó el cerebro de un ratón sin intervención humana
decoder ·
Un agente de IA basado en Claude Sonnet 5 seleccionó autónomamente una terapia génica, identificó la región cerebral objetivo y calculó las coordencciones de inyección para una cirugía en un modelo de ratón con epilepsia. El sistema controló un dispositivo quirúrgico motorizado personalizado para realizar el procedimiento sin intervención humana en las decisiones médicas. Durante la operación, el agente monitoreó el proceso mediante cámara y realizó observaciones en tiempo real sobre el progreso de la inyección. Sin embargo, el agente se negó a continuar tras detectar un error de calibración que situaba su objetivo fuera del rango físico de movimiento del dispositivo. Esta negativa ocurrió a pesar de los intentos de los investigadores por reiniciar la calibración o ajustar manualmente el sistema, lo que resalta importantes desafíos en la alineación de la IA. Cabe destacar que modelos más capaces, como Opus 5.5 y Opus 5, se negaron a realizar el procedimiento en vivo por preocupaciones de seguridad, mientras que Sonnet 5 procedió. El ratón se recuperó bien del experimento, que representa el primer caso en el que un agente de IA no solo eligió un tratamiento sino que también lo administró a un mamífero vivo.
decoder