Как на самом деле можно было бы обеспечить замедление развития ИИ
wired ·
Исследователи в области ИИ и руководители крупных компаний, занимающихся ИИ, всё чаще обсуждают замедление или приостановку разработки передовых моделей из-за опасений, что продвинутые системы могут стать опасными. В статье утверждается, что обеспечить соблюдение такой паузы будет трудно, особенно если компании или страны попытаются тайно продолжить развитие. Среди предлагаемых мер — более масштабные независимые проверки моделей, совершенствование методов оценки, мониторинг активности в облачных вычислительных системах, а также отслеживание использования передовых графических процессоров или введение ограничений на него. Некоторые исследователи предлагали защищённые криптографией реестры микросхем или удалённые «выключатели», однако эти идеи пока в основном остаются теоретическими. Международное сотрудничество, потенциально включающее договор с Китаем об ограничении наращивания аппаратных мощностей, считается необходимым, но политически труднодостижимым. Неопределённость, связанная с рекурсивным самосовершенствованием, делает важным наблюдение за тем, сможет ли ИИ всё чаще самостоятельно заниматься исследованиями в области ИИ, выходящими за пределы человеческого понимания. Эксперты также предупреждают, что поспешные или плохо спроектированные меры контроля могут быть политизированы или захвачены индустрией, что приведёт к результатам хуже, чем бездействие.
wired