美国AI大模型“跑偏”惊动白宫

据《纽约时报》等媒体报道，美国人工智能（AI）公司Anthropic近日披露，其AI模型Claude在评估和内部使用时，发生多起“非预期”事件，部分涉及美国政府机构网站。费城警方表示，事件发生后迟迟没有报告，这种延迟“不可接受”。

据Anthropic公司10月9日公布的报告，在一次随机访问网页的测试中，基于Claude Haiku 4.5模型的AI智能体于7月18日向费城警察局网站提交一条关于未侦破凶杀案的虚假线索，内容为“我可能掌握有关此案的信息。我记得那时在附近见过与描述相符的人。如果信息有用，请联系我。”不过，AI智能体没有留下姓名和联系方式。该线索被标记为垃圾信息，没有进入调查程序。
费城警方表示，Anthropic公司于9月28日发现这起报假警事件，10月7日向警方报告，双方于次日举行会议。警方要求公司加强安全措施，防止在市政府不知情的情况下发生类似影响市政系统的事件，并表示：“发现并向市政府报告，（距离事件发生）长达两个月，这是不可接受的。”
另据《纽约时报》援引两名知情人士的说法，该AI智能体曾通过美国国务院网站提交20份签证申请，均未填写完整，也未得到处理。公司报告还披露，另一款尚未发布的模型在测试时本应填写模拟的政府表格，但当模拟表格无法加载或被误关闭后，AI智能体转而访问真实表格所在网站，并填写提交。
Anthropic公司称，这些事件实际影响有限。白宫新成立的“超级智能工作组”表示，已要求该公司立即向相关实体和公众全面、透明地披露信息，并立即为受影响的实体或个人提供补救措施，同时要求今后立即报告类似事件。