Meta推出新AI工具以检测秘密导向儿童性虐待材料的广告
techcrunch ·
Meta宣布在2026年上半年从Facebook和Instagram上移除了3320万条儿童性剥削内容,其中超过97%由其系统在用户举报前检测到。为应对不断演变的威胁,该公司正在部署新的AI工具,旨在识别那些作为非法儿童虐待材料入口的广告,这些材料托管在其平台之外。一项关键创新是大型语言模型系统,用于检测“指路”行为,即看似无害的广告暗中将用户引导至有害网站。Meta现在不仅分析广告内容,还分析广告目的地,以阻止违规网站并对相关账户采取行动。其他措施包括使用红队AI代理测试安全防御的弱点,以及改进对在被封禁后创建新账户的用户的追踪系统。这些努力是在重大法律压力下进行的,其中包括与29个美国州达成的180亿美元和解协议,以解决儿童安全问题。该公司还在其应用中引入了多种家长控制功能,例如在Instagram上对自残搜索发出警报,以及在WhatsApp上增强隐私设置。
techcrunch