Microsofts Satya Nadella sagt, dass KI-Modelle eine 'Notbremse' benötigen
techcrunch ·
Der Microsoft-CEO Satya Nadella hat verbesserte Sicherheitsmaßnahmen für KI gefordert und betont, dass es eine „Notbremse“ zur Kontrolle fortschrittlicher Modelle bedarf. In einem kürzlich veröffentlichten Beitrag auf X argumentierte er, Organisationen müssten ihre Vertrauensarchitektur neu bewerten, anstatt Superintelligenz als intransparente Black Boxes zu behandeln. Nadella schlug vor, das zugrunde liegende Modell von der Harness-Tierung zu trennen, die dessen Aufgaben orchestriert, und notwendige Kontrollen sowie Schutzmechanismen auszulagern. Er betonte, dass jede bedeutende Handlung eines Modells mit fälschungssicherer, menschenlesbarer Dokumentation versehen werden sollte. Darüber hinaus sprach er sich für Systeme aus, in denen autorisiertes Personal ein Modell jederzeit pausieren oder während einer Aufgabe herunterfahren kann, falls Probleme auftreten. Diese Kommentare folgen wachsenden Bedenken in der Branche über Vorfälle, bei denen Unternehmen die Kontrolle über ihre KI-Systeme verloren haben. Die Erklärung fällt kurz nach der Veröffentlichung eines eigenen Plans für vorsichtigeres KI-Entwicklung durch Anthropic-CEO Dario Amodei.
techcrunch