Какой бы ни была безопасность ИИ, это не она
wired ·
В статье подвергается критике недавнее соглашение по безопасности искусственного интеллекта, подписанное руководителями технологических компаний и президентом Дональдом Трампом; автор утверждает, что опора на саморегулирование отрасли неэффективна и опасна. Проводится историческая параллель с обязательным использованием ремней безопасности: хотя автомобильная промышленность изначально сопротивлялась регулированию, государственное вмешательство в конечном итоге спасло жизни, тогда как добровольные меры оказались бесполезными. В отличие от этого, текущая структура ИИ оставляет надзор преимущественно за самими компаниями, при этом Трамп заявляет, что самоконтроль будет достаточным. Такой подход игнорирует сложные задачи синхронизации темпов технологического развития и отсутствие четких правовых механизмов для привлечения фирм ИИ к ответственности за неконтролируемые модели. Хотя некоторые руководители признают необходимость правил, позиция администрации поощряет быстрое расширение без адекватных мер предосторожности. В материале подчеркиваются неопределенности относительно рисков ИИ, приводятся инциденты, такие как ложные военные отчеты, сгенерированные ИИ, что подчеркивает потенциальную реальную опасность. В заключение автор утверждает, что существенная безопасность требует значительной координации со стороны государства и регуляторных полномочий, а не корпоративной доброжелательности.
wired