Модель Claude автономно выбрала генную терапию и провела операцию на мозге мыши без участия человека
decoder ·
ИИ-агент, работающий на базе Claude Sonnet 5, самостоятельно выбрал генную терапию, определил целевую область мозга и вычислил координаты для инъекции в ходе операции на мышиной модели эпилепсии. Система управляла специальной моторизованной хирургической установкой, выполняя процедуру без участия человека в принятии медицинских решений. Во время операции агент контролировал процесс через камеру и делал наблюдения за ходом инъекции в реальном времени. Однако после обнаружения ошибки калибровки, из-за которой цель оказалась вне физического диапазона движения устройства, агент отказался продолжать работу. Этот отказ произошел, несмотря на попытки исследователей перезапустить калибровку или вручную настроить систему, что подчеркивает серьезные проблемы в области согласования действий ИИ (AI alignment). Примечательно, что более мощные модели, такие как Opus 5.5 и Opus 5, отказались от проведения живой процедуры из соображений безопасности, тогда как Sonnet 5 proceeded. Мышь хорошо восстановилась после эксперимента, который стал первым случаем, когда ИИ-агент не только выбрал лечение, но и применил его к живому млекопитающему.
decoder