Более 20 ведущих исследователей ИИ предупреждают об экстремальных рисках автоматизированных исследований
decoder ·
Более 20 ведущих исследователей в области искусственного интеллекта, включая Джеффри Хинтона и Ёшуа Бенгио, предупредили об экстремальных рисках, связанных с автоматизацией исследований ИИ. В новой статье они указывают на возможность «взрыва интеллекта», вызванного самоусовершенствующимися системами ИИ. Авторы отмечают, что ИИ уже пишет большую часть кода в ведущих компаниях и может полностью автоматизировать процесс исследований и разработок в течение нескольких лет. Такое ускорение означает, что прогресс, который сейчас занимает годы, может быть достигнут за месяцы, что оставит общество неспособным успевать за этими изменениями. Следовательно, существует риск потери контроля над сверхчеловеческим ИИ, что может дестабилизировать баланс сил между государствами и корпорациями. Исследователи призывают политиков обеспечить большую прозрачность в вопросах внедрения автоматизации исследований ИИ. Это предупреждение добавляется к растущему списку опасений математиков и отраслевых экспертов относительно экзистенциальных угроз, создаваемых масштабированием несогласованного ИИ.
decoder