Google DeepMind gründet ein Institut, um die Debatte über AGI zu erweitern
techcrunch ·
Google und Forscher von Google DeepMind haben das DeepMind Institute gegründet, um die Diskussion über künstliche allgemeine Intelligenz (AGI) voranzubringen. Zu seinen Direktoren gehören der Mitgründer von DeepMind, Shane Legg, der Google-Manager James Manyika und der Vorsitzende von Google DeepMind, Demis Hassabis; Legg fungiert als geschäftsführender Redakteur. Das Institut erklärt, es werde unterschiedliche Ansichten von Google, Google DeepMind und der breiteren Forschungsgemeinschaft darlegen und anerkennen, dass sich diese Ansichten ändern könnten, sobald neue Informationen vorliegen. In den ersten vier Essays geht es um politische Maßnahmen zur Bewältigung potenzieller wirtschaftlicher Verwerfungen, die Bewahrung nachvollziehbarer Denkprozesse von Modellen, Prinzipien für menschliches Wohlergehen und Methoden zur Bewertung von KI-Modellen an der technologischen Spitze. Ein Essay argumentiert, dass eine abnehmende Transparenz fortgeschrittener Modelle nicht unvermeidlich sei, und fordert Entwickler und Regulierungsbehörden auf, Zielkonflikte bei der Überwachung anzugehen. Hassabis schlägt unterdessen eine von den USA geführte Normungsorganisation vor, die Modelle zunächst freiwillig prüfen würde, bevor möglicherweise verpflichtende Evaluierungen eingeführt werden. Die Vorschläge spiegeln eine breitere Verschiebung in der Debatte über KI-Sicherheit hin zu Offenlegung, externer Prüfung und möglichen koordinierten Verlangsamungen bei der Entwicklung von KI-Systemen an der technologischen Spitze wider.
techcrunch