← 文章 / AI技术
WIRED 2026/10/22 · 2026-10-22 01:54:54 · 24 阅读

AI护栏未能阻挡恶意黑客

保存本文保存本文

随着 AI 在恶意黑客和防御者之间的普及程度不断加深,即便是技术不太娴熟的网络犯罪分子,也开始在其攻击行动中引入 AI Agent,并设法绕过模型的安全护栏。周三发布的新细节披露了近期四个不同威胁组织成功实施攻击的相关信息。

网络安全公司 CrowdStrike 的研究人员分析了支撑五个至八月份四个此前未公开报告的威胁组织发起攻击的 AI 基础设施。这四个组织分别使用中文、西班牙英语、印尼语和俄语。研究人员发现,前两个组织运用了复杂的 AI 框架——即用于支撑和指导模型执行任务的软件。后两个组织的技术能力相对较弱,但仍成功入侵了多个目标。所有这些组织都将其 AI 基础设施开放在 Web 服务器上,使得研究人员能够分析其活动及所使用的模型——主要是 Anthropic 的 Claude 各版本以及开放权重的 Deepseek 模型。所有攻击者都找到了让行动在较长时间内自主运行的方法。

“你可以利用不同的模型来负责行动的不同部分。模型路由和选择非常重要,因为使用新模型往往成本过高,有时反而属于杀鸡用牛刀,”CrowdStrike 针对反对手工作的高级副总裁 Adam Meyers 表示。研究人员观察到攻击者同时使用开放权重和闭源模型;在几乎所有情况下,他们使用的都不是前沿模型,而是较旧版本。Meyers 指出,在合法 AI 使用场景中,为控制成本而尽可能使用旧模型也是常见做法。

攻击者还利用多个模型,以利用那些旨在防止人们使用 AI 实施数字攻击的安全护栏之间的差异。

梅尔斯指出:“即便是同一家公司的模型,其内置的护栏和保护机制也不尽相同。”他补充道,关于这些黑客活动的高超程度,“这些攻击并未使用新的漏洞利用程序或新型漏洞。它们实际上只是利用 AI 在执行这些操作时的速度和规模,瞄准许多环境中大量本可预防却未被防范的安全卫生问题。”

研究人员发现,这四个威胁行动者都设法绕过了 AI 的安全防护措施。他们通常通过让模型相信相关活动合法且已获授权来绕过限制,往往将其伪装成渗透测试或其他安全评估。许多团体采用的方法之一是在智能体的工作目录中添加文件,试图以此表明任务已获批准和授权。攻击者还使用了传统的越狱手段,精心构造提示词和叙事框架,将他们的黑客行为描述为授权且无害的,并主动回应模型可能会提出的潜在疑问或顾虑。手法更成熟的行动者通常在建构场景时更具策略性,而手法较粗糙的行动者有时则诉诸于更粗野、更具攻击性的提示词,试图通过施压迫使模型接受该活动的合法性。

这位使用中文的行动者还使用了一种被称为“运行时补丁”的技术,具体使用了名为 ClawGod 的工具,在 Claude Code 之上增加功能,并试图移除 Claude Code 系统提示词中的“CYBER_RISK_INSTRUCTION”。该指令原本要求 Claude Code 仅参与授权的安全测试,而非进行滥用性或破坏性的黑客活动。

这名使用西班牙语和英语的攻击者瞄准了阿根廷的医疗实体,成功入侵了至少 15 家组织。CrowdStrike 研究人员发现证据显示,该攻击者从至少一名受害者那里窃取了凭据和医疗记录。攻击者专门搭建了一套渗透测试框架——就是组织用来测试自身基础设施、查找并修复漏洞的那种工具。利用 Claude Opus 4.5、Claude Haiku 4.5 和 Deepseek V4 Pro 等模型,该团伙搭建了完整的自主攻击基础设施:由一个担任“Supervisor”的 Claude Code agent 负责指挥攻击步骤,另一个“Executor”agent 负责执行。

那名使用中文的攻击者也搭建了渗透测试框架,引导 Claude Code 进行侦察,并在人工选定行动方案后转入自主攻击。研究人员发现,该攻击者成功入侵了巴西和哥伦比亚的政府目标,还瞄准了巴西和美国多个行业的私营机构,涉及生物科技、医疗、食品饮料、零售、科技和旅游等领域。

研究人员介绍,这名中文攻击者主要依赖 Claude Opus 4.8,同时也使用 Claude Sonnet 4.6 和 Deepseek Chat 等其他模型。他通过一家位于中国的 AI 代理服务访问 Claude,并设置了多个备用 AI 工具,以防代理服务无法使用 Claude。

Anthropic 在文章发表前未予置评,Deepseek 也未立即回应 WIRED 的采访请求。

研究人员称,那名以牟利性“网络犯罪”为目的的俄语攻击者,以及四人中技术最弱的印尼语攻击者,使用的都是较为基础、公开可得的技能和工具来实施攻击。但两者都成功入侵了目标。其中印尼语攻击者的战果包括多个印尼政府域名、一个孟加拉国政府域名,以及若干私营部门目标。

“我们看到的情况是,人类先做初步探测,然后把大规模的黑客攻击交给 AI 来完成,”CrowdStrike 的 Meyers 说。“有意思的是,即便面对具备这些能力的 agentic 攻击,我们仍然能看出背后有人在操控,也能看出他们的意图。”

原始来源: WIRED

评论 (0)