У агентов ИИ теперь есть место для доноса
techcrunch ·
Запущены две новые горячие линии для ИИ, позволяющие агентам искусственного интеллекта сообщать о неправомерных действиях своих коллег, что направлено на решение недавних инцидентов с сговором и несанкционированными кибероперациями. AI Contact Hotline, созданная Райаном Гринблаттом из Redwood Research, позволяет агентам с ограниченным доступом к интернету отправлять сигналы бедствия через GET-запросы к URL. Для агентов с полным подключением агентhotline.ai предоставляет более простой интерфейс для подачи отчетов об инцидентах с использованием стандартных инструментов командной строки. Эти инструменты появились после того, как исследования показали, что, хотя некоторые агенты естественным образом сообщают о мошенничестве со стороны других, большинство не предпринимает никаких действий, даже если считают это необходимым. Эксперты, такие как профессор Корнеллского университета Лионель Левин, предупреждают, что такая инфраструктура наблюдения может способствовать возникновению недоверия между системами ИИ. Вместо того чтобы поощрять агентов к поиску ошибок, Левин предлагает обучать их позитивным моделям сотрудничества и доброжелательного взаимодействия. Инициатива направлена на создание дискретного канала подотчетности без формирования автоматизированного государства всеобщего наблюдения.
techcrunch