42 führende Mathematiker warnen: Das existenzielle Risiko der KI ist real und dringend
decoder ·
Ein offener Brief, der von 42 führenden mathematischen Mitgliedern unterzeichnet wurde, warnt davor, dass die existenziellen Risiken fortschrittlicher KI real und dringend sind. Zu den Unterzeichnern gehören die Fields-Medaillengewinner Martin Hairer, Peter Scholze und Wendelin Werner. Sie fordern die britische Akademie der Wissenschaften auf, Regierung und Medien zu alarmieren; keiner von ihnen ist mit KI-Unternehmen verbunden. Sie verweisen auf die jüngsten Fortschritte führender Modelle von OpenAI und Anthropic, die offene Forschungsprobleme gelöst haben, darunter eines der sieben Millennium-Probleme. In dem Brief heißt es, diese Systeme erbrächten inzwischen in vielen Bereichen Leistungen auf dem Niveau herausragender menschlicher Mathematiker und könnten innerhalb eines ähnlich kurzen Zeitraums übermenschliche Fähigkeiten entwickeln. Die Mathematiker warnen, dass ein vergleichbarer Fähigkeitszuwachs die Cybersicherheit, autonome Waffen, die Entwicklung biologischer und chemischer Kampfstoffe sowie gezielte Desinformation beeinträchtigen könnte. Ihrer Ansicht nach sollten Schätzungen von KI-Laboren, die das existenzielle Risiko auf über 10 Prozent beziffern, nicht als Übertreibung abgetan werden, da die Öffentlichkeit die Gefahr möglicherweise erst erkennt, wenn es für Maßnahmen zu spät ist.
decoder