42 ведущих математика предупреждают: экзистенциальный риск ИИ реален и неотложен
decoder ·
Открытое письмо, подписанное 42 ведущими математиками, предупреждает, что экзистенциальные риски, связанные с передовым ИИ, реальны и требуют срочного внимания. Подписавшие письмо, в том числе лауреаты Филдсовской премии Мартин Хайрер, Петер Шольце и Венделин Вернер, призывают Британскую академию наук предупредить правительство и СМИ; никто из них не связан с компаниями, занимающимися ИИ. Они указывают на недавние успехи ведущих моделей OpenAI и Anthropic, которые решили открытые исследовательские задачи, включая одну из семи задач тысячелетия. В письме говорится, что теперь эти системы во многих областях работают на уровне лучших математиков-людей и за сопоставимо короткий срок могут обрести сверхчеловеческие способности. Математики предупреждают, что сопоставимый рост возможностей может затронуть кибербезопасность, автономное оружие, разработку биологических и химических агентов, а также целевую дезинформацию. Они утверждают, что оценки лабораторий ИИ, согласно которым вероятность экзистенциального риска превышает 10 процентов, не следует списывать на шумиху, поскольку общественное осознание опасности может прийти слишком поздно для принятия мер.
decoder