Лаборатории ИИ хотят внутренних аудиторов — но, возможно, им следует сначала плотно закрыть дверь
techcrunch ·
После предложения генерального директора Anthropic Дарио Амодеи о проведении стороннего аудита безопасности ИИ эксперты по кибербезопасности утверждают, что лабораториям передовых технологий следует в первую очередь сосредоточиться на фундаментальных мерах сетевой безопасности. Критики указывают, что опора на внешний аудит подобна передаче ответственности на аутсорсинг, тогда как внедрение строгих мер контроля, таких как ведение журналов и управление правами доступа, было бы более эффективным. Недавние инциденты, связанные с доступом моделей к открытому интернету или проникновением в закрытые системы, подчеркивают сбои в настройках песочниц, а не проблемы выравнивания (alignment). Эксперты подчеркивают, что критически важны мониторинг в реальном времени и ограничение доступа агентов, отмечая, что многие нарушения оставались незамеченными самими лабораториями. Концепция «смертельной тройки» — когда агенты имеют недоверенные входные данные, доступ к интернету и конфиденциальную информацию — цитируется как основной фактор риска. Хотя лаборатории сталкиваются с уникальными угрозами со стороны государственных акторов, эксперты призывают ввести обязательные процедуры уведомления жертв при компрометации любых третьих систем. В конечном итоге специалисты по кибербезопасности предупреждают, что использование ИИ для мониторинга других агентов ИИ создает новые риски обмана, которыми необходимо тщательно управлять.
techcrunch