OpenAI fordert internationale Standards für KI, die sich selbst verbessern kann
decoder ·
OpenAI setzt sich für die Einführung internationaler Standards in der Entwicklung fortschrittlicher KI ein, mit einem besonderen Fokus auf rekursive Selbstverbesserung (RSI). Diese Technologie ermöglicht es KI-Systemen, die für die Erschaffung nachfolgender Generationen erforderliche Forschung zu automatisieren, was den Fortschritt potenziell in einem beispiellosen Tempo beschleunigen könnte. Das Unternehmen betont, dass vollständig autonome RSI derzeit nicht existiert und erst dann verfolgt werden sollte, wenn angemessene Sicherheitsmaßnahmen vorhanden sind. Ohne ausgereifte Schutzvorkehrungen besteht das Risiko, dass der Mensch die Kontrolle über die KI-Entwicklung verliert, was zu Systemen führen kann, die weniger ausgerichtet und gefährlicher sind. Um diesen Bedenken zu begegnen, schlägt OpenAI vor, dass die USA durch die Nutzung bestehender nationaler Institute und Organisationen wie CAISI und ISO die Schaffung globaler technischer Standards anführen. Diese Standards sollten gemeinsame Messmethoden, Protokolle zur Meldung von Vorfällen sowie Regeln für die menschliche Aufsicht über automatisierte Forschung umfassen. Ein kürzlich tagendes wissenschaftliches Gremium der Vereinten Nationen hat diese Bedenken geteilt und vor dem möglichen Kontrollverlust über autonome Agentenschwärme gewarnt. Folglich haben die UN internationale Kooperationsrahmen vorgeschlagen, die denen in den Bereichen Luftfahrt, Nuklearenergie und Cybersicherheit ähneln.
decoder