Эксперты США и Китая призывают принять общие правила, запрещающие ИИ контролировать ядерное оружие
decoder ·
Эксперты из США и Китая предлагают общие правила, которые не позволят системам ИИ самостоятельно принимать решения о запуске ядерного оружия. Мелани Сиссон из Брукингского института и Тяньцзяо Цзян из Университета Фудань представили свои предложения накануне запланированной на 24 сентября встречи Дональда Трампа и Си Цзиньпина. Предлагаемые ими «красные линии» должны запретить ИИ запускать ядерное оружие или атаковать системы управления ядерными силами, а также предусматривать сохранение за людьми исключительного контроля над кибератаками на стратегическую инфраструктуру с применением ИИ. Эксперты также хотят, чтобы обе страны согласовали общее определение человеческого контроля, развивая договорённость Байдена и Си от ноября 2024 года. Цзян предложил создать горячую линию для инцидентов, связанных с ИИ, чтобы защитные автоматизированные ответы не принимались ошибочно за атаки. Аналогичные предупреждения в 2021 году высказывал Национальный комитет по безопасности искусственного интеллекта (NSCAI), однако обязательных механизмов не существует, и Карла Фримен усомнилась в том, что горячая линия будет работать, поскольку Китай не ответил на звонок США во время кризиса с китайским шпионским аэростатом в 2023 году.
decoder