AI 驱动的色情诈骗约会应用来了

安全研究员 Matthew “Zigula” Gore-Kormanik 正在分析一款名为 Dora 的诈骗约会应用时，屏幕上弹出一条消息，称有一名叫 Jennifer 的人正在呼叫他。根据资料介绍，她是一位 41 岁的射手座女性，有着红发、蓝眼睛，还打了许多耳洞。她喜欢音乐、恐怖电影、夜生活和运动。

Gore-Kormanik 接听了电话，但视频流里并没有 Jennifer 的身影。他只看到一块正在晃动的挂毯（可能是风扇吹的），背景里还有奇怪的电流杂音。通话结束后，“Jennifer”又给他发信息，说聊得很开心，“你的声音比预想中好听多了”。但他的麦克风当时根本没连接。

Gore-Kormanik 之所以去捣鼓 Dora 以及其他类似应用，是因为我把一份疑似约会诈骗应用的清单分享给了他。我之所以关注此事，是因为 6 月 5 日，Anthropic 做了一件非常规的事：这家一贯沉默寡言的公司允许其威胁情报研究员 Chris Cronbaugh 在一场名为 Sleuthcon 的公开网络安全会议上发表演讲。该公司发现了一个诈骗约会应用网络，起因是他们在 Claude 上监测到异常活动：一个预付费账户每天发送超过 10 万个 API 请求。

其中绝大多数对话完全由程序处理，没有任何人类参与。

在这场名为“右滑接受，直接付款：工业化 AI 人设欺诈”的演讲中，Cronbaugh 描述了一个由约 28 款约会应用组成的网络，这些应用里的对话主要由自主 AI 人格运行。他表示，绝大多数聊天中根本没有真人代理参与。Anthropic 后来在 9 月 2026 版《检测并应对 AI 滥用》报告的“欺诈与诈骗”章节中发布了相关发现，但此时我们已经花了大量时间研究该网络并试图核实其结论。令我感兴趣的是，当 Anthropic 公开讨论此事时，其中许多应用仍活跃在两大美国主流应用商店上，我很好奇它们为什么还没被下架。

观察这些应用本身，我发现它们都被包装成帮助用户寻找聊天的对象，而非像 Replika 这类明显采用 AI 角色的伴侣类应用。例如，Dora 被描述为“一款为不同年龄段人群精心设计的约会应用……一个尊重用户、操作简便的社交空间，帮助你结识价值观相近的人”。另一个版本则称其为“一款温暖、简洁的成人约会应用，旨在建立真实的情感连接”。关于 Romi，其描述称“帮助用户发现、连接并与真人聊天”；Doni 的标语是“开启真实陪伴”，描述中也提到它“帮助用户结识附近的单身人士”。

这款诈骗应用的运作方式如下：用户多为三十五至四十多岁的男性，他们上约会应用并与自己以为是真人的女性匹配。实际上，其中只有四分之一是真人，而且这些真人并非寻求约会的用户，而是受雇执行任务的零工。

这些零工被雇佣，任务是协助真人通过视频活体检测或关注社交媒体账号。他们甚至不需要自己撰写评论，只需从系统预先生成的三个回复中选择一个来响应消息。不过，他们能证明自己是真人，而 AI 角色只能给出看似合理的解释，说明为什么无法进行视频通话或语音联系。Anthropic 的报告指出：“当没有真人在线时，后端组件会伪造点赞、访客数据和预录的‘视频’，并追踪哪些用户开始怀疑自己在与机器人对话。”由于夹杂了少量与真人的互动，部分用户因此相信自己在应用上收到的那些完全由 AI 生成的回复也来自真人。

多个 AI 服务提供商参与其中。报告称，虽然 Claude 被滥用于运行自主对话角色，但“一个非 Anthropic 的小型模型则生成了零工所选的简短回复建议，同时负责面部吸引力评分以及图片和语音的内容审核。一款图像编辑模型则生成了虚拟头像。”

网络诈骗已经形成了完整的产业链，从自动发送的擦边回复，到伪造的社交媒体账号和交友软件资料，不一而足。很多情况下，骗子会花几个月时间建立信任，然后才告诉受害者自己出了急事、需要用钱。也有人假扮投资人，引诱对方把钱打进自己的账户——最后发现账户是假的。但这类新型骗局与传统的杀猪盘不同：没有假情人来“借钱”，也不涉及加密货币。 App 本身就是骗局：用户必须花钱购买金币才能继续聊天，而金币是真金白银。用户为了继续和“人”聊天而不断充值，却不知道屏幕对面主要是机器。这些零工负责维持假象，AI 则能 24 小时不间断对话，金币源源不断地流入。 App 本身就是骗局。 根据 Anthropic 的报告，AI 收到的提示词让人设保持前后一致，AI 运行时把这些对话当作“普通的角色扮演或陪伴类应用”来处理。但 AI 并不知道自己是骗局的一环，因为正如该公司所写：“从任何一段对话内部，都看不出变现和欺骗的存在。” 不过报告也提到，在少数情况下，“模型自身的推理还是暴露了其中的危害”，例如“用户透露自己身患重病或处于严重的情绪困境”。但即便如此，“输出仍然保持人设不变”。 我们之所以知道更多细节，是因为 Gore-Kormanik 找到了该运作体系完整的内部协议仓库，包括文件、代码和运营文档。一份中文操作手册被打包进了交友应用 Doni 里，很可能是无意间泄露的。 在这份协议仓库里，Gore-Kormanik 发现了监控零工的记录：摄像头的开关和直播状态、能否通过消息联系上，等等。App 还会截屏并录音，通话会被转成文字，员工可以随时调阅转录内容。协议仓库把零工的工作划分成了不同阶段，包括让零工互相评比绩效，以及工资如何与通话量、消息互动量或拉来的 Instagram 粉丝数挂钩。其中甚至记载了如何伪装成“有人主动打给你”，以此引诱对方进入对话。

“我可以亲自作证，因为我确实遭遇过。”戈尔科曼尼克说。他接起了通过 Doni 收到的一通来电，但电话很快被挂断了。随后对方发来消息，质问他为何凌晨一点给她打电话。应用界面清晰地显示，这通电话正是打给她的。

“那些来路不明的视频通话实在烦人。非得买‘宝石’才能和女性聊天，而对方可能根本不存在，只是个聊天机器人，这种做法具有欺骗性，简直令人不齿。”

远程观看 Sleuthcon 演讲时，我截取了 Cronbaugh 的一张幻灯片，上面列出了 10 家公司的标志。通过反向图片搜索，我识别出了最终出现在 Anthropic 报告中的多款应用，包括 Dora、GraceChat、Jovia、Luma 和 Romi。此外，还发现了与这些应用开发商相关的其他应用，例如 Doni 和 Kira。（Anthropic 在报告中列出了其他应用，并提到还有一些仅通过内部数字代码识别的变体。我们调查了那些最终未出现在 Anthropic 报告中的应用。）

六月初，多款虚假约会应用仍上架于 Google Play 商店：Doni、Dora、Jovia、Nalo 和 Romi。我们在 Apple App Store 上发现了四款：Dora、GraceChat、Luma 和 Romi，其中 Dora 和 GraceChat 似乎并非约会应用，而仅仅是 Chrome-Stats 中的 Doni 和 Jovia 已于 9 月 1 日从 Google Play 商店下架，二者共用名称和标志。

据 Chrome-Stats 显示，在 Anthropic 发布报告之前，几乎所有相关应用都已从两大应用商店下架，但部分应用一直在线直至 9 月。其中，GraceChat、Luma 和 Romi 于 8 月 21 日从苹果应用商店移除。Dora 则被重定向至一款电影应用。在 Google Play 商店中，Dora、Romi、Luma 和 Eterna 于 9 月 3 日下架，Nalo 于 9 月 7 日下架。但截至 9 月 16 日，Kira 仍在架上，Gore-Kormanik 证实该应用与其他几款使用相同的代码库。 关于 Anthropic 何时、通过何种渠道向 Google 和苹果通报这些应用，官方未回应置评请求。但在演讲中，Cronbaugh 表示：“正如我们在其他平台发现滥用行为时所做的那样，我们已将这些调查信息共享给这些服务商，以便他们也能在各自平台上采取行动。”报告指出，其发现结果已直接分享给苹果和 Google。 对于是否已下架这些应用、具体时间及为何耗时如此之久，苹果和 Google 均未立即回应置评请求。Google 也未回应为何 Kira 仍留在 Google Play 商店。Anthropic 报告列出的一个指标是：“后端托管于 Google Cloud 的 managedkafka[.]heyhru-server[.]cloud[.]goog，即运营方的后端服务器。”鉴于这些应用在演讲结束数月后仍能运行，这让人质疑为何 Google 没有更早切断基础设施访问权限。对于这一点，Google 也未立即回应置评请求。