DeepMind-Forscher schlagen "Künstliche Symbiotische Intelligenz" als Alternative zur Singularität vor
decoder ·
Forschende der DeepMind, darunter Benjamin Bratton, Blaise Agüera y Arcas und James Manyika, schlagen "Artificial Symbiotic Intelligence" als Alternative zum traditionellen Konzept der technologischen Singularität vor. Sie argumentieren, dass allgemeine künstliche Intelligenz (AGI) aus sozialen Systemen entsteht, in denen Menschen und KI-Agenten zusammenarbeiten, anstatt von isolierten superintelligenten Maschinen zu stammen. Diese Perspektive wird durch Beobachtungen gestützt, dass Reasoning-Modelle während des Trainings ohne explizite Programmierung von sich aus multiperspektivisches Verhalten entwickeln. Die Autoren deuten darauf hin, dass die Gesellschaft einen kognitiven Wendepunkt erreichen könnte, der der industriellen Revolution ähnelt, wenn die Anzahl der KI-Agenten-Instanzen wächst, während die menschliche Bevölkerung schrumpft. In diesem neuen Paradigma werden KI-Agenten als temporäre, zerlegbare Ansammlungen von Werkzeugen und Rollen betrachtet, nicht als Entitäten mit festen Identitäten oder einem kontinuierlichen Selbst. Folglich könnten zukünftige Schnittstellen von Ein-zu-Eins-Chats zu visuellen Netzwerkdiagrammen wechseln, die es Nutzern ermöglichen, Schwärme von Agenten zu koordinieren. Die Forscher betonen, dass Governance- und institutionelle Rahmenwerke entscheidend sind, um diese komplexen Interaktionen zu verwalten, da Märkte allein soziale Nuancen wie Tugend oder Schuld nicht bewältigen können. Letztlich wird Alignment neu definiert als eine fortlaufende Aushandlung, die durch Institutionen geprägt ist, anstatt als statische Aufzwingung von Werten auf einzelne Modelle.
decoder