Meta部署新AI工具打击儿童剥削,Muse助手扩展至iPad
aiinsider ·
Meta推出了新的AI工具以检测其平台上的儿童性剥削内容,并报告称在2026年上半年对Facebook和Instagram上3320万条此类内容采取了行动。该公司表示,超过97%的此类材料是在用户举报前由其系统识别出来的。一项关键创新是设计了一个大型语言模型系统,用于检测“路标”行为,即无害广告将用户引导至网络其他地方的非法内容。Meta现在不仅审查广告内容,还检查广告指向的目的地,从而能够阻止违规目标并对背后的账户采取行动。此外,该公司正在运行由AI驱动的扫描程序以查找此前遗漏的材料,并部署红队代理以探测其自身安全措施的弱点。这些安全措施出台之际,Meta正面临来自儿童安全方面的持续压力,包括今年8月达成的一项协议,将就29个美国州提起的诉讼支付高达180亿美元以和解。与此同时,继一个月前在iPhone上发布后,Meta已将其Muse AI助手作为独立的iPad应用程序推出。Sensor Tower估计,自9月8日以来该助手的安装量已超过660万次,更新内容包括增加了与Asana、Canva、Figma、Notion和Granola的连接支持。
aiinsider