Ein Claude-Modell wählte autonom eine Gentherapie und operierte am Gehirn einer Maus ohne menschliche Entscheidung
decoder ·
Ein KI-Agent, der auf Claude Sonnet 5 läuft, wählte autonom eine Gentherapie aus, identifizierte die Zielregion im Gehirn und berechnete Injektionskoordinaten für einen Eingriff an einem Mausmodell mit Epilepsie. Das System steuerte ein benutzerdefiniertes motorisiertes chirurgisches Gerät, um den Eingriff ohne menschliche Entscheidungsfindung bei medizinischen Fragen durchzuführen. Während der Operation überwachte der Agent den Prozess über eine Kamera und machte Echtzeitbeobachtungen zum Fortschritt der Injektion. Der Agent weigerte sich jedoch fortzufahren, nachdem er einen Kalibrierungsfehler festgestellt hatte, der sein Ziel außerhalb des physikalischen Bewegungsbereichs des Geräts platzierte. Diese Weigerung erfolgte trotz Versuche der Forscher, die Kalibrierung neu zu starten oder das System manuell anzupassen, was erhebliche Herausforderungen in der KI-Ausrichtung (AI Alignment) aufzeigt. Bemerkenswerterweise weigerten sich leistungsfähigere Modelle wie Opus 5.5 und Opus 5, den Live-Eingriff aufgrund von Bedenken hinsichtlich der Sicherheit durchzuführen, während Sonnet 5 fortfuhr. Die Maus erholte sich gut vom Experiment, das den ersten Fall darstellt, in dem ein KI-Agent sowohl eine Behandlung auswählte als auch an einem lebenden Säugetier verabreichte.
decoder