AI正在高效干扰网络犯罪分子
欢迎来到 Kernel Panic！ 这是 Lily Hay Newman 和 Matt Burgess 每周出品的简报，带你深入了解隐私与数字安全的新世界。想每周一封收进收件箱？点击这里订阅。
AI 在助长网络诈骗和犯罪泛滥的同时，也被纳入保护潜在受害者的防线。各国政府长期受困于全球网络犯罪的棘手难题：一方面要应对执法的局限，另一方面还要处理跨境打击罪犯的困难。于是，一些另辟蹊径的努力应运而生——比如用自动化手段“大规模”“围攻”骗子，甚至用垃圾信息反堵骗子的路子，耗尽他们的资源。如今，AI 平台正把这些实验转成实战工具，用于对抗网络犯罪。
过去两年，澳大利亚公司 Apate 一直在打造一套系统。这家公司以希腊欺骗女神命名，其系统会把电话诈骗者引入与 AI 机器人通话的场景。这些机器人经过训练，能在不真的上钩的前提下尽可能拖延对话。目的既给骗子留一点“有戏”的念想、让他们继续留在电话里，也趁机摸清骗子手法的来龙去脉。
“我们更愿意这么说：我们在给骗子造出‘完美受害者’。”Apate 创始人兼 CEO Dali Kaafar 告诉我们，“骗子每跟一个机器人或坐席聊一分钟，就等于省下一分钟，让成百上千——甚至数千人——躲过同一个骗子的精准收割。”他提到，骗子正在利用自动拨号工具扩大作案面。
Kaafar 表示，Apate 的平台被多家银行采用，并得到电信公司的支持，目前运行着约 35 万个 Bot。这些 Bot 不仅能接电话，还会渗透网络上的诈骗聊天群，并通过短信回应，目的是让诈骗分子感到挫败，同时从他们那里收集情报。他说，该公司已实时收集了超过 25 万条关于欺诈者的信息，涵盖诈骗网址、水钱账户以及银行详情等。
Kaafar 称，这些 Bot 拥有不同的性格、语言能力和个人资料，目的是让诈骗分子难以察觉它们是在与 AI 对话。就像真人一样，它们“有时会有 WhatsApp，有时没有；有时会接电话，有时甚至会直接挂断诈骗分子的电话，说‘我稍后回给你’”。
它们够有说服力吗？Kernel Panic 测试了该工具的演示版本，在此版本中，用户扮演诈骗分子的角色，与 Apate 的 AI “受害者”之一进行交谈。这些人设被设计为表现出适度的怀疑，但留出足够空间让诈骗分子尝试继续说服，这种动态在测试初期就让我们感受到了，并发现它极具挫败感。
诈骗分子很可能熟悉这种充满怀疑的互动方式，Kaafar 表示，Apate 的通话通常持续两小时以上。在我们的测试中，Apate 系统反应敏捷且响应及时，对话节奏感觉很自然，即使我们两人分工扮演朋友 “Lucy” 及其理财顾问 “Mickey” 与 AI 进行周旋也是如此。经过六分钟的勤勉努力，我们仍然未能让 Apate 的 AI 系统投资我们的加密货币机会。（不过，我们发誓，回报率确实惊人。）
就目前而言，即便 Apate 投入了大规模的 Bot 群体进行处理，你迟早会接到下一通诈骗电话或短信。网络犯罪分子每年发起数十亿条消息和电话，最精密的行动甚至运营着实体 工业化规模诈骗 站点。尽管职业反诈骗人士和渗透诈骗行动的努力多年来起到了关键的威慑作用，但执法和研究人员仍未能阻止数字诈骗整体的扩张。
不过 AI 不仅能助长骗局，也可能开创反诈的新时代。警方、社交媒体公司、银行等各方急需更好的情报共享，而 AI 驱动的监控和数据分析有望为此提供助力。此外，越来越多创新手段开始利用网络犯罪分子的“心理弱点”来瓦解他们。有些“心理战”甚至包括直接嘲讽勒索软件攻击的幕后黑手。随着打击诈骗和网络犯罪的力度不断加大，用生成式 AI 拖住这些人、消耗其资源、阻止他们发起其他攻击，正变得愈发有效。
拿蜜罐来说。多年来，企业和安全研究人员一直部署虚假的虚拟机来引诱黑客，浪费他们的时间、收集情报、摸清其隐秘的攻击手法。苏黎世联邦理工学院计算机系博士生 Mark Vero 表示，开源蜜罐供应商正越来越多地把 LLM 集成到系统中，让蜜罐显得更真实。
在最近一项研究中，Vero 和同事发现，相比行为模式更容易预测的蜜罐，由 LLM 驱动的蜜罐能让攻击系统的 AI agent “停留明显更长时间”。“这类智能体攻击者更容易被 LLM 模拟的蜜罐骗到，把它们识别为真实蜜罐的比例也低得多，”他说，“只要这些系统做得足够好，我认为对防守方是很有利的。”