Anthropic schlägt AI-Sicherheitsgesetz vor, das ein Modell blockieren könnte, wenn über 50 Menschen sterben könnten
techcrunch ·
Anthropic hat einen neuen Gesetzentwurf für den Kongress vorgeschlagen, der darauf abzielt, die Sicherheit von künstlicher Intelligenz durch das Blockieren der Veröffentlichung von Modellen zu regulieren, die katastrophale Risiken darstellen. Die Gesetzgebung definiert solche Risiken als Szenarien, in denen mehr als 50 Menschen sterben oder Schäden an Eigentum in Höhe von mehr als einer Milliarde Dollar aufgrund biologischer Waffen, Cyberangriffe oder der Umgehung der Modellkontrolle entstehen könnten. Zur Einschätzung dieser Gefahren schlägt der Entwurf die Verwendung unabhängiger Gutachter vor, die beim US-Handelsministerium registriert sind und von KI-Labors bezahlt werden, jedoch nicht auf Basis der Bewertungsergebnisse. Wenn ein unmittelbares Risiko identifiziert wird, müssen die Gutachter das Handelsministerium innerhalb von 72 Stunden benachrichtigen, das dann eine gerichtliche Anordnung zur Einstellung der Verbreitung einholen würde. Dieser Ansatz verhindert ausdrücklich, dass Bundesbehörden die Veröffentlichung von Modellen ohne gerichtliche Aufsicht einseitig stoppen können. Die Metriken stimmen mit Kaliforniens jüngstem Senate Bill 53 überein, obwohl Kritiker hinterfragen, wie die Zahlungsstrukturen die Neutralität der Gutachter beeinflussen könnten. Während Branchenführer wie Nvidia neuen Gesetzen widerstehen, stellt Anthropics Vorschlag im Vergleich zu freiwilligen Selbstregulierungsmodellen einen strukturierteren regulatorischen Rahmen dar.
techcrunch