Harvard-Psychologe fordert nüchterne KI-Sicherheitsingenieurwesen statt Apokalypsen-Rhetorik
decoder ·
Der Harvard-Psychologe Steven Pinker hat einen offenen Brief an Scott Alexander verfasst, in dem er argumentiert, dass die Befürchtungen hinsichtlich existenzieller Risiken durch KI übertrieben sind. Pinker lehnte eine öffentliche Debatte zu diesem Thema ab und charakterisierte solche Veranstaltungen eher als reine Schaukampf-Sportarten denn als produktiven Diskurs. Er ist der Ansicht, dass Doomsday-Szenarien – wie das Gedankenexperiment des Paperclip-Maximizers – fälschlicherweise Intelligenz mit einem Dominanzstreben gleichsetzen und eine unrealistische Fixierung auf ein einzelnes Ziel unterstellen. Zwar räumt Pinker ein, die schnellen Fortschritte bei den Fähigkeiten großer Sprachmodelle sowie die rücksichtslosen Veröffentlichungsstrategien von Tech-Unternehmen unterschätzt zu haben, doch bleibt er apokalyptischen Narrativen gegenüber skeptisch. Anstatt sich auf bedrohliche Szenarien bis hin zum Aussterben der Menschheit zu konzentrieren, identifiziert er Bioterrorismus, Cyberangriffe und unkontrollierte KI-Agenten als die primären Gefahren, die Aufmerksamkeit erfordern. Pinker plädiert für eine nüchterne Sicherheitsingenieurwissenschaft, die auf unabhängiger Aufsicht, Haftungsrahmenwerken und Mechanismen zur menschlichen Kontrolle basiert. Alexander hingegen hält eine Wahrscheinlichkeit von 20 Prozent für möglich, dass die Menschheit durch KI ausgelösst wird, und fordert verbesserte Sicherheitsforschung sowie internationale Regulierungsabkommen.
decoder