Mehr als 20 führende KI-Forscher warnen vor extremen Risiken durch automatisierte KI-Forschung
decoder ·
Mehr als 20 führende KI-Forscher, darunter Geoffrey Hinton und Yoshua Bengio, haben vor den extremen Risiken gewarnt, die mit automatisierter KI-Forschung verbunden sind. In einem neuen Papier weisen sie auf das Potenzial einer „Intelligenzexplosion“ hin, die durch sich selbst verbessernde künstliche Intelligenzsysteme ausgelöst werden könnte. Die Autoren stellen fest, dass KI bereits den Großteil des Codes in führenden Unternehmen schreibt und innerhalb weniger Jahre den gesamten Forschungs- und Entwicklungsprozess automatisieren könnte. Diese Beschleunigung bedeutet, dass Fortschritte, die derzeit Jahre dauern, möglicherweise nur in wenigen Monaten erzielt werden, was die Gesellschaft überfordern würde. Dementsprechend besteht die Gefahr, dass die Kontrolle über supermenschliche KI verloren geht, was die Machtverhältnisse zwischen Nationen und Unternehmen destabilisieren könnte. Die Forscher fordern politische Entscheidungsträger auf, die Transparenz darüber zu erhöhen, wie die Automatisierung der KI-Forschung umgesetzt wird. Diese Warnung fügt sich in eine wachsende Liste von Bedenken seitens Mathematikern und Brancheninsidern hinzu, die existenzielle Bedrohungen durch nicht ausgerichtete KI-Skalierung befürchten.
decoder