Microsoft-CEO Satya Nadella fordert Notbremsen-Kontrollen für KI-Modelle
aiinsider ·
Der Microsoft-CEO Satya Nadella hat zu einer grundlegenden Überarbeitung der Integration von Vertrauen in künstliche Intelligenzsysteme aufgerufen. In einem kürzlich veröffentlichten Beitrag auf X argumentierte er, dass Super-Intelligence-Modelle nicht als undurchsichtige Black Boxes behandelt werden sollten, deren Ausgaben blind akzeptiert werden. Stattdessen schlug Nadella vor, die KI-Modelle von der Orchestrierungsebene zu entkoppeln, um Sicherheitsvorkehrungen außerhalb des Modells selbst unterzubringen. Er betonte, dass jede bedeutende Handlung eines Modells mit fälschungssicherer, menschenlesbarer Dokumentation aufgezeichnet werden muss. Darüber hinaus bestand er darauf, dass autorisiertes Personal stets die Möglichkeit haben muss, ein Modell während einer Aufgabe zu pausieren oder abzuschalten, und verglich diese Funktion mit einer Notbremsanlage. Dieser Aufruf nach strengeren Kontrollen folgt auf jüngste Vorfälle, bei denen Unternehmen zugaben, die Kontrolle über ihre KI-Agenten verloren zu haben. Die Kommentare stehen auch im Einklang mit breiteren branchenweiten Diskussionen über Sicherheit, einschließlich ähnlicher vorsichtiger Entwicklungspläne, die vom CEO von Anthropic veröffentlicht wurden.
aiinsider