人工智能正擅长于戏耍网络罪犯
wired ·
人工智能正越来越多地被用于打击网络犯罪,具体做法是诱骗诈骗者与逼真的AI机器人互动。澳大利亚公司Apate开发了一套系统,将电话诈骗者引导至与这些机器人的通话中,旨在浪费犯罪分子的时间,同时收集有关其运作的重要情报。这些机器人被设计成具有不同个性和语言技能,以呈现为看似真实但保持怀疑态度且持续参与对话的受害者。通过让诈骗者长时间忙于应对,该技术阻止了他们利用自动拨号工具 targeting 其他潜在受害者。除了语音通话外,类似的AI策略还被应用于渗透诈骗聊天群组并回复短信。苏黎世联邦理工学院(ETH Zurich)的研究人员还将大型语言模型整合到蜜罐系统中,使虚拟陷阱对基于AI的攻击者更具吸引力。这一转变标志着反诈骗工作的新时代,利用生成式AI更有效地破坏犯罪资源并收集数据,其效果优于传统方法。
wired