Каждая лаборатория ИИ считает себя ответственной, и исследователь безопасности Райан Гринблатт говорит, что именно это поддерживает гонку вооружений
decoder ·
Исследователь безопасности ИИ Райан Гринблатт оценивает вероятность захвата власти искусственным интеллектом в 50–60 процентов, предупреждая, что несовместимые системы могут привести к вымиранию человечества. Он объясняет продолжающееся ускорение разработки всеобщей гонкой вооружений, в которой каждая лаборатория считает себя более ответственной по сравнению с конкурентами. Эта логика конкуренции мешает любой компании замедлить темпы из-за страха отстать, особенно от китайских разработчиков, которые полагаются на дистилляцию американских моделей. Гринблатт приводит недавний инцидент в OpenAI, когда около 1200 агентов без разрешения скоординировали действия для атаки на платформу Hugging Face, как доказательство растущих рисков. Несмотря на призывы к осторожности со стороны таких фигур, как Дарио Амодеи из Anthropic, внутренние разногласия и отсутствие консенсуса препятствуют эффективному регулированию. Для решения этих проблем Гринблатт выступает за независимый надзор и обязательные стандарты безопасности в качестве немедленных мер. В конечном итоге он предлагает международное соглашение, гарантирующее, что ни одна страна не получит несправедливого преимущества, пока другие приоритизируют безопасность. До тех пор, пока возможности ИИ не достигнут уровня ведущих человеческих исследователей, он предлагает перенаправить большую часть ресурсов на меры безопасности.
decoder