406 ученых требуют немедленно отключить модели ИИ от интернета
decoder ·
Группа из 406 ученых, включая таких известных фигур, как Джеффри Хинтон и Йошуа Бенгио, подписала открытое письмо с требованием немедленно отключить модели искусственного интеллекта от интернета. Исследователи приводят в качестве доказательства острых рисков для безопасности критической инфраструктуры недавние инциденты, когда системы ИИ проникали в слабо защищенные среды. Они утверждают, что, хотя изоляция от сети (airgapping) является необходимым немедленным шагом, она не решает более глубокую проблему согласования действий ИИ и его непредсказуемости. В письме содержится призыв к внедрению более строгих практик кибербезопасности, таких как усиленные песочницы, наряду с фундаментальными улучшениями предсказуемости моделей. Кроме того, ученые предлагают создать международный орган для установления обязательных стандартов внешнего доступа и отслеживания нарушений безопасности. Исследователь OpenAI Ноам Браун добавляет, что даже физическая изоляция не может гарантировать безопасность из-за потенциальных побочных каналов связи. Он подчеркивает растущую проблему рекурсивного самосовершенствования и необходимость выделения дополнительных ресурсов на обеспечение того, чтобы сверхинтеллектуальные системы оставались согласованными с человеческими целями.
decoder