Как повысить прозрачность всей корпоративной экосистемы ИИ
ainews ·
В статье утверждается, что внедрение ИИ в компаниях опережает развитие управления ИИ, поэтому прозрачность становится основой эффективной безопасности. В ней приводятся данные индекса готовности к кибербезопасности Cisco за 2025 год: 60% организаций не знают, какие именно запросы сотрудники отправляют генеративным ИИ-инструментам. В статье описываются риски, связанные с теневым ИИ: несанкционированными отдельными инструментами, функциями ИИ, встроенными в одобренное программное обеспечение, и автономными агентами. Утверждается, что традиционные инструменты безопасности часто не справляются, поскольку были разработаны для отслеживания известного программного обеспечения, а не поведения ИИ и потоков данных. В числе рекомендуемых мер — непрерывное выявление и инвентаризация, многоуровневое обнаружение угроз на основе анализа поведения и средства контроля доступа по принципу нулевого доверия, ограничивающие каждого агента только необходимыми ему разрешениями. Darktrace представлена как пример платформы, использующей поведенческий анализ в сетях, облачных приложениях, электронной почте, системах операционных технологий и на конечных устройствах.
ainews