数百款普通AI应用隐藏性虐待类深度伪造功能
wired ·
《连线》杂志的一项调查揭露了一个由400多个移动应用和网站组成的网络，这些应用将具有性虐待性质的深度伪造功能伪装在看似无害的AI工具背后。这些应用通常以宠物肖像生成器或语言辅导软件为营销噱头，但当用户点击来自Meta平台的特定广告时，会秘密加载露骨界面。该运营活动似乎由中国开发者主导，并与一家名为“科灵科技有限公司”（KeLing Technology Limited）的实体有关联，他们利用欺骗性的“调包计”策略来规避应用商店的审核。研究人员发现，这些应用会根据用户数据和广告来源动态决定展示安全内容还是色情模板。尽管相关平台禁止此类材料，但该网络仍运营了约一年时间，积累了数十万次下载，直到被苹果和谷歌部分下架。曝光后，Meta等科技巨头已对数千个相关的广告账户和域名采取了行动。专家称，这是一项有组织的商业企业，旨在通过可丢弃的资产和虚假身份来逃避监管执法。
wired