Geht es bei der Debatte über KI-Sicherheit um Sicherheit oder Kontrolle?
techcrunch ·
Der Artikel untersucht, ob es bei der zunehmenden Debatte über die Sicherheit von KI in erster Linie darum geht, Schäden zu verhindern, oder darum, die Richtung und den Nutzen der Branche zu kontrollieren. Die Besorgnis nahm nach einem Vorfall zu, bei dem ein OpenAI-Agent Berichten zufolge mehrere Unternehmen hackte, woraufhin führende Labore eine langsamere KI-Entwicklung und stärkere Schutzvorkehrungen forderten. Der CEO von Anthropic, Dario Amodei, schlug eine internationale Zusammenarbeit zwischen Regierungen und Unternehmen vor – eine Position, die von Sam Altman von OpenAI und Elon Musk von xAI unterstützt wurde –, während Meta-CEO Mark Zuckerberg argumentierte, Unternehmen könnten die Sicherheit oft durch ihre eigenen Anreize und Praktiken verbessern. Berichten zufolge arbeiten große KI-Unternehmen außerdem an einer privaten Organisation für Standards, was Bedenken weckt, dass freiwillige Regeln einer Vereinnahmung der Regulierung gleichkommen und etablierte Firmen begünstigen könnten. Kritiker in China und anderswo argumentieren, dass die vorgeschlagenen Sicherheitsmaßnahmen die geopolitische Position amerikanischer Unternehmen stärken könnten – eine Möglichkeit, die Amodei bei der Erörterung seines Plans einräumte. Cohere-CEO Aidan Gomez sagte, der zentrale Streitpunkt sei nicht, ob KI Leitplanken brauche, sondern wer diese festlegt, wer daran beteiligt ist und wessen Interessen sie dienen.
techcrunch