Google DeepMind запустила институт для расширения дискуссии об AGI
techcrunch ·
Исследователи Google и Google DeepMind запустили Институт DeepMind, чтобы развивать дискуссию об искусственном общем интеллекте (AGI). В число его руководителей входят сооснователь DeepMind Шейн Легг, руководитель Google Джеймс Маньяйка и председатель Google DeepMind Демис Хассабис; Легг занимает должность выпускающего редактора. Институт заявляет, что будет представлять различные взгляды Google, Google DeepMind и более широкого исследовательского сообщества, признавая, что эти взгляды могут меняться по мере появления новой информации. В первых четырех эссе рассматриваются политика управления потенциальными экономическими потрясениями, сохранение понятности рассуждений моделей, принципы человеческого процветания и методы оценки передовых моделей ИИ. В одном из эссе утверждается, что снижение прозрачности передовых моделей не является неизбежным, и разработчиков и регуляторов призывают учитывать компромиссы, связанные с мониторингом; Хассабис предлагает создать орган по разработке стандартов под руководством США, который на первых порах будет проводить добровольную проверку моделей, а впоследствии оценки могут стать обязательными. Эти предложения отражают более широкий сдвиг в дискуссии о безопасности ИИ в сторону раскрытия информации, внешнего контроля и возможного согласованного замедления разработки передовых систем ИИ.
techcrunch