Почему ИИ, скорее всего, не уничтожит человечество с помощью биологического оружия
wired ·
Несмотря на растущие опасения по поводу апокалипсиса, вызванного ИИ, учёные, опрошенные WIRED, говорят, что уничтожение человечества с помощью биологического оружия, созданного при содействии ИИ, в настоящее время представляет собой угрозу с относительно низкой вероятностью. ИИ может упростить поиск и использование биологической информации и протоколов, однако эксперты отмечают, что более серьёзными узкими местами остаются получение материалов и оборудования, создание и испытание патогена, а также подтверждение его способности заражать людей и передаваться от человека к человеку. Эксперты в области биотехнологий и иммунологии считают, что человеческий контроль, ограниченная автономность лабораторий и потенциально быстрая разработка вакцин с помощью ИИ затруднили бы автономную атаку. Другие исследователи предупреждают, что злоумышленники могут использовать ИИ для организации биотерроризма ещё до появления полностью автономных лабораторий, а будущие возможности технологий способны повысить опасность. Некоторые эксперты также отмечают, что патогены — плохое оружие, поскольку их сложнее направленно применять и производить в массовых масштабах по сравнению с обычными видами атак. Предлагаемые меры защиты включают проверку заказов синтетической ДНК и РНК, усиление защиты моделей ИИ, совершенствование наблюдения за вспышками заболеваний и обмена данными, а также внедрение более широких мер биобезопасности. Эксперты подчёркивают необходимость многоуровневой защиты, одновременно предупреждая, что дискуссии о безопасности ИИ не должны затмевать потенциальные преимущества этой технологии для разработки вакцин и развития медицины.
wired