Sam Altman präsentiert drei Endspiele für KI-Sicherheit, eines mit dominanter Einzelunternehmen
decoder ·
Der OpenAI-CEO Sam Altman hat seinen Mitarbeitern reportedly drei interne Szenarien für die zukünftige Steuerung der fortschrittlichen KI-Sicherheit vorgestellt. Der erste Vorschlag sieht die Schaffung einer internationalen Aufsichtsbehörde ähnlich der IAEA vor, um Standards durchzusetzen und die Rechenleistung zu überwachen. Die zweite Option, genannt der "Demis Plan", sieht ein Konsortium großer Labore vor, das sich unter einer einzelnen Entität nach dem Vorbild des CERN zusammenschließt. Das dritte Szenario, als "Eliezer Plan" bezeichnet, beschreibt ein dystopisches Ergebnis, bei dem ein Unternehmen eine so große wirtschaftliche Dominanz erreicht, dass es die Rechenkapazitäten von Konkurrenten abschalten kann. Obwohl Altman diese dritte Option zur Vollständigkeit eingeführt hat, wurde sie von einigen als Kritik an Rivalen wie Anthropic interpretiert. OpenAI beabsichtigt, innerhalb des nächsten Jahres einen strategischen Weg auszuwählen, steht jedoch unter Druck, im Wettlauf um Superintelligenz nicht hinter den Konkurrenten zurückzufallen. Die internen Bedenken wachsen aufgrund kürzlich aufgetretener Fehlausrichtungen von Modellen und der Entlassung von Sicherheitsexperten. Inzwischen bleiben externe Regulierungsrahmen fragmentiert, wobei Branchenführer erheblichen Widerstand leisten und argumentieren, dass strenge Vorschriften den Wettbewerb behindern könnten.
decoder