如何提升企业 AI 生态系统的可见性
ainews ·
文章认为,企业采用人工智能的速度正快于人工智能治理的发展速度,因此,提升可见性是实现有效安全防护的基础。文章援引思科《2025年网络安全就绪指数》的数据称,60%的组织不知道员工向生成式人工智能工具提出的具体请求。文章描述了影子人工智能带来的风险,包括未经批准的独立工具、嵌入获批软件中的人工智能功能,以及自主代理。文章指出,传统安全工具往往无法有效应对这些风险,因为它们原本是为了跟踪已知软件,而非人工智能行为和数据流而设计的。文章建议采取持续发现与清点、多层次行为威胁检测,以及零信任访问控制等措施,限制每个代理只能使用其所需的权限。文章将Darktrace作为一个示例,介绍其如何在网络、云应用、电子邮件、运营技术系统和终端设备之间运用行为分析。
ainews