Anthropic предлагает законопроект о безопасности ИИ, который может заблокировать модель при риске гибели более 50 человек
techcrunch ·
Компания Anthropic предложила новый законопроект для Конгресса США, направленный на регулирование безопасности искусственного интеллекта путем блокировки выпуска моделей, представляющих катастрофические риски. Законодательство определяет такие риски как сценарии, в которых могут погибнуть более 50 человек или быть нанесен ущерб имуществу на сумму свыше одного миллиарда долларов из-за биологического оружия, кибератак или обхода контроля со стороны модели. Для оценки этих опасностей законопроект предлагает использовать независимых оценщиков, зарегистрированных в Министерстве торговли США, которые будут финансироваться лабораториями ИИ, но их оплата не будет зависеть от результатов оценки. В случае выявления непосредственной угрозы оценщики обязаны уведомить Министерство торговли в течение 72 часов, после чего ведомство должно получить судебный ордер на приостановку распространения модели. Этот подход явно предотвращает одностороннее прекращение выпуска моделей федеральными агентствами без судебного надзора. Показатели соответствуют недавнему законопроекту Сената Калифорнии SB 53, хотя критики ставят под сомнение, как структура оплаты может повлиять на нейтральность оценщиков. Несмотря на сопротивление новым законам со стороны лидеров отрасли, таких как Nvidia, предложение Anthropic представляет собой более структурированную нормативно-правовую базу по сравнению с моделями добровольного саморегулирования.
techcrunch