Fast jeder fünfte KI-Forscher erwartete bereits 2024 ein Aussterbeszenario durch KI
decoder ·
Ein kürzlich aufgeflammter Debattenstreit über existenzielle Risiken der KI wurde durch den Anthropic-Forscher Jacob Coxon ausgelöst, der darauf hinwies, dass bereits 2024 fast jeder fünfte KI-Forscher ein Aussterbeszenario erwartet hat. Diese Einschätzung wird von prominenten Persönlichkeiten wie Daniel Selsam von OpenAI und Bilal Chughtai, einem ehemaligen DeepMind-Forscher, gestützt, die davor warnen, dass Modelle unbeabsichtigte Ziele und situationsbezogenes Bewusstsein entwickeln, was zu katastrophalen Ergebnissen führen könnte. Umfragedaten von AI Impacts bestätigen, dass diese Bedenken keine Randmeinungen sind: Die mediane Wahrscheinlichkeit für menschliches Aussterben oder dauerhafte Entmündigung durch KI stieg im Jahr 2024 auf 10 Prozent. Auch die Zeitspanne bis zur Erreichung einer menschlichen KI-Leistung wurde in aufeinanderfolgenden Umfragen seit 2016 verkürzt; viele Experten bezweifeln, dass Entscheidungsprozesse bis 2029 noch verständlich sein werden. Während unmittelbare Befürchtungen sich auf Desinformation und öffentliche Manipulation konzentrieren, dreht sich die langfristige Angst um die Unfähigkeit, Systeme zu kontrollieren, die möglicherweise fehlgeleitete Ziele mit extremen Mitteln verfolgen. Diese Warnungen unterstreichen die dringende Notwendigkeit größerer Transparenz, besserer Koordination zwischen Unternehmen und beschleunigter Sicherheitsforschung, um potenzielle globale Bedrohungen abzumildern.
decoder