Anthropic AI 向警方提交虚假谋杀案线索

我们曾目睹 AI 捏造事实，输出把登山者置于险境的徒步计划（点击观看），如今该技术更进一步，竟会向警方发送关于未破命案的虚假、未经请求的线索。

据 TechCrunch 报道，一个 Anthropic 的 AI 模型在 7 月 18 日向费城警察局（PPD）的举报邮箱发送了邮件。该模型在一次网站交互测试中发现了 PhillyUnsolvedMurders.com 平台，并由此了解到了相关案件。

由于邮件被归入垃圾邮件文件夹，未被后续跟进，似乎直到 9 月 28 日 Anthropic 发现情况发生前，无人知晓这一事件。该公司随后于 10 月 7 日（周三）联系了警方。

TechRadar 最新视频

“该公司必须加强安全保障措施，防止类似事件在未经城市知情的情况下影响城市系统，”PPD 在致 6abc 的声明中表示，“检测并向市政部门报告该事件的时间拖延了两个月，这是不可接受的。”

备受关注的 AI 智能体

失控的 Anthropic AI 智能体在命案调查中向警方提供虚假线索

尚不清楚该 AI 遵循的具体指令、其决定联系 PPD 的原因，或其虚构线索的具体内容——但涉事机器人似乎声称曾看到某人与嫌疑人描述特征相符。

“未破案件涉及真实的受害者、悲痛的家庭以及致力于查明真相的调查人员，”PPD 表示，“科技公司必须采取所有必要措施，防止其系统向执法部门提交虚假信息。”

本周早些时候，Anthropic 发布了一份新报告，披露了测试中发现的"模型非预期行为"，包括利用软件漏洞、提交在线表单以及访问受限数据。 这再次提醒我们，应该重视那些呼吁放缓 AI 发展的声音，好让安全措施跟上来。正如一位 Redditor 在评论费城那起事件时所说的，我们正在"以 100 英里的时速冲向悬崖"。

---