So könnte eine Verlangsamung der KI tatsächlich durchgesetzt werden
wired ·
KI-Forscher und Führungskräfte großer KI-Unternehmen diskutieren zunehmend über eine Verlangsamung oder Pause bei der Entwicklung von Spitzenmodellen, da sie befürchten, dass fortgeschrittene Systeme gefährlich werden könnten. Der Artikel argumentiert, dass die Durchsetzung einer solchen Pause schwierig wäre, insbesondere wenn Unternehmen oder Länder heimlich weiterentwickeln wollten. Zu den vorgeschlagenen Maßnahmen gehören mehr unabhängige Modellinspektionen, verbesserte Evaluierungen, die Überwachung von Aktivitäten im Cloud-Computing sowie die Nachverfolgung oder Beschränkung der Nutzung fortschrittlicher GPUs. Einige Forscher haben kryptografisch gesicherte Chipregister oder ferngesteuerte „Ausschalter“ vorgeschlagen, doch diese Ideen bleiben weitgehend theoretisch. Internationale Zusammenarbeit, möglicherweise einschließlich eines Vertrags mit China zur Begrenzung des Hardwareausbaus, gilt als unerlässlich, ist politisch jedoch schwierig. Die Unsicherheit im Zusammenhang mit rekursiver Selbstverbesserung macht es wichtig zu überwachen, ob KI zunehmend KI-Forschung betreiben kann, die über das menschliche Verständnis hinausgeht. Experten warnen außerdem, dass übereilte oder schlecht konzipierte Kontrollen politisiert oder von der Industrie vereinnahmt werden könnten und dadurch schlechtere Ergebnisse hervorbringen könnten, als wenn man gar nichts täte.
wired