JohnThink 2小时前 · 2026-09-13 21:35:45 · 2 阅读
AI大模型正在重写网络安全攻防规则
AI大模型正在重写网络安全攻防规则最近，两件事撞在了一起。9月10日，Anthropic发布应对和检测AI威胁报告，记录了多起AI大模型被用于网络攻击的实际案例。同日，英伟达CEO黄仁勋在高盛科技会议上表态，网络安全很可能成为AI的下一个主要用例。一个从攻击侧记录现状，一个从产业侧指出方向。合在一起看，AI大模型正在重写网络安全的攻防规则。
一、攻击侧发生了什么Anthropic的报告虽然未必都可信，但几个典型案例值得研究。一是完整攻击链的自动化。 一个犯罪组织利用Claude Code完成了从侦察、凭证窃取、网络渗透到数据窃取的完整攻击链，针对至少17个组织，包括医疗机构、应急服务、政府机关和宗教团体。没有部署传统勒索软件，而是直接窃取数据后勒索，金额超过50万美元。Anthropic威胁情报负责人Jacob Klein的说法是，过去需要一个专业团队才能完成的攻击，现在一个人借助AI代理就能实施。二是技术门槛的坍塌。 IT人员利用AI伪造简历、通过技术面试、维持远程工作。Klein说，以前需要大学学历、IT经验、英语能力才能通过面试，现在不会写代码、不懂英语的人靠AI就能蒙混过关，入职后日常工作也几乎全部依赖AI完成。三是恶意工具的批量生产。 一个网络犯罪组织用AI开发勒索软件变体，在暗网论坛以400到1200美元出售，提供ChaCha20加密和反分析逃逸功能。过去需要高级Windows内核知识才能实现的技术，现在打包成了商品。四是恶意软件的自适应进化。 报告中提到一个案例，恶意软件被检测查杀后，AI代理自主重写代码以规避检测。
二、防御侧要怎么变Trend Micro在2026年5月追踪到两个拉美攻击活动（SHADOW-AETHER-040和SHADOW-AETHER-064），攻击者用AI代理动态生成攻击工具，每次执行的代码都不同。传统基于签名的安全方案对此几乎无效，这也意味着防御侧也必须变。2026年9月1日，英伟达和CrowdStrike在FalCon 2026大会上联合发布了SafeMind，一个自主式AI安全防御系统。黄仁勋在现场说，"我们正处于网络安全的拐点。攻击已经自动化了，防御也必须跟上。"SafeMind的核心变化是，从"人审+工具辅助"转向"AI代理自主决策"。系统不再只是给安全分析师发告警，而是自主完成威胁分析、关联研判、响应执行的全流程，不需要等待人类审批。CrowdStrike CEO George Kurtz的说法是，这不是在现有安全工具里加一个AI助手，而是用AI代理替代人工分诊。Akamai在2026年8月发布的报告则指出了另一个方向。报告发现了三种AI原生攻击手法，一是vibe hacking（氛围黑客），攻击者偷偷修改开发者环境中的指令文件，让AI编码工具生成有漏洞的代码；二是CursorJacking，用恶意浏览器扩展窃取AI编码工具访问的API密钥和源代码；三是CometJacking，在公共网页上嵌入恶意指令，操纵AI代理窃取用户文件和凭证。Akamai的判断是，传统数据防泄漏工具是为文件和邮件时代设计的，现在企业敏感数据正在被碎片化地分散到数百万条提示词、未管理的个人账户和自主AI代理中。安全负责人必须从"试图阻断AI"转向"在交互层持续管控AI的运行方式"。
三、攻防节奏被重写了把攻击侧和防御侧的变化放在一起看，核心变化是攻防节奏被重写了，这也是最近业界的共识了。传统攻防节奏是，攻击者发现漏洞、编写利用代码、部署攻击，防御者分析样本、编写签名、更新规则，这个节奏以天甚至周为单位。AI介入后，攻击侧的变化是AI代理可以动态生成攻击工具，每次代码不同，绕过签名检测；可以自动化完成从侦察到利用的完整链条，速度从人天级压缩到分钟级；可以根据防御反馈自适应调整，被检测就重写代码。防御侧的应对是也必须用AI代理来匹配这个速度。CrowdStrike的SafeMind就是这个思路，用自主AI代理对抗自主AI代理，在机器速度上完成检测、分析、响应。Gartner在2026年8月发布的报告列出了AI在网络安全中的五个经过验证的用例，一是嵌入式AI助手，优化现有安全工具的使用；二是AI SOC代理，自动化工作流、优先级排序、数据富化；三是AI代码安全助手，在开发阶段发现安全问题；四是第三方问卷管理，自动化安全评估流程。五是策略机器人，用自然语言查询安全策略。Gartner同时指出，55%的CISO报告遇到过供应商在AI能力上的过度承诺，43%认为AI辅助工具未能交付承诺的效果。
四、黄仁勋的算盘黄仁勋在高盛科技会议上说，网络安全很可能成为AI的下一个主要用例。原因是AI编程自动化让可被利用的代码和需要修复的漏洞同步激增，攻防供需结构被重写。他还讲了一句有意思的话，"有什么比制造问题更能创造需求的方式呢。完成这件事有负责任的方式，也有不那么值得称道的方式。"背景是英伟达上周刚宣布约130亿美元收购AI平台Hugging Face，正为算力寻找下一个高价值出口。黄仁勋此时点出网络安全，等于给AI算力找到了一个新的需求叙事。冷静看，黄仁勋的话半真半假。真的部分在于AI确实在改变攻防节奏，上面列举的案例都是实打实的。防御侧确实需要升级，传统基于签名的方案确实不够用了。假的部分在于巨头叙事想把预算导向算力层和平台层。黄仁勋说"安全是AI下一个主要用例"，潜台词是"买更多GPU"。英伟达刚花130亿美元收购Hugging Face，需要为这笔投资找到需求支撑。
五、网安厂商的机会在哪黄仁勋想把安全从"成本项"重新定义为"AI算力消费场景"。这个叙事如果成立，安全产业的预算基础就变了，但国内厂商不应该跟着这个叙事走，应该在自己的场景层找到独立的机会逻辑。一是Agent行为审计。 AI代理可以自主执行攻击链，那防御端的AI代理也需要行为审计，确保它不会越权或被操纵。SafeMind这类自主决策系统，如果误判了怎么办？如果AI代理被对抗样本欺骗了怎么办？行为审计有必要的治理需求。二是AI滥用监测。 Anthropic报告记录了AI被用于自动化攻击、欺诈、勒索的实际案例。怎么检测AI代理是否正在执行恶意任务，怎么在AI代理的行为链条中插入检查点，这是一个真实的产品需求。三是AI编码安全。 Akamai指出的vibe hacking攻击说明，AI编码工具本身正在成为攻击面。怎么保护开发者环境中的AI工具不被操纵，怎么检测AI生成的代码是否包含后门，这是一个新方向。四是威胁情报共享。 Anthropic、OpenAI、Google已经开始共享AI滥用威胁情报。国内也需要建立共享机制，特别是针对AI智能体攻击的新模式。
六、几个值得研究的命题从网络攻防视角看，可以凝练出几个值得研究的命题。一是AI编程自动化对攻防节奏的量化影响。攻击成本下降曲线是什么样的，breakout time（突破时间）分布如何建模。这与half-day漏洞（从漏洞披露到被利用的时间）的研究一脉相承。二是AI代理的自主性与可控性。恶意软件自主重写代码规避检测的案例说明，AI代理的自主性已经超出了设计者的预期。如何在保持AI代理效能的同时确保可控性，是一个工程问题，也是一个治理问题。三是面向大模型智能体的威胁情报分析。现有的IP、URL、域名、邮箱形式的IOC威胁情报，在大模型智能体面临语义类的攻击时不适用，需要研究智能体之类威胁情报分析技术，包括识别虚假情报对抗。
七、小结AI大模型正在重写网络安全的攻防规则。攻击侧，AI代理可以自动化完成完整攻击链，动态生成攻击工具，自适应规避检测。防御侧，也必须用AI代理来匹配这个速度。黄仁勋说"安全是AI下一个主要用例"，这话半真半假。真在攻防节奏确实被重建了，假在巨头叙事想把预算导向算力层。网安厂商的机会在场景层。Agent行为审计、AI滥用监测、AI编码安全、威胁情报共享，这四个方向是真实的场景需求。
参考文献1. Anthropic. Threat Intelligence Report[R]. 2026-09-10.2. 华尔街见闻. 黄仁勋押注网络安全为AI下一个用例[N]. 2026-09-11.3. The Meridiem. Cybersecurity Crosses into AI Agent Era as Automated Attacks Force Defense Shift[N]. 2026-09-01.4. Trend Micro. Vibe Hacking: Two AI-Augmented Campaigns Target Government and Financial Sectors in Latin America[R]. 2026-05-12.5. Akamai. 2026 Enterprise AI Usage Risk Report[R]. 2026-08-10.6. Gartner. Beyond the Hype: Top 5 Cybersecurity AI Use Cases With Real Impact[R]. 2026-08-28.7. CRN. Jensen Huang: CrowdStrike Is Nvidia's 'No. 1 Cybersecurity Partner'[N]. 2026-09-01.8. TechTimes. Nvidia Buys Hugging Face for Nearly $13 Billion[N]. 2026-09-04.
一、攻击侧发生了什么Anthropic的报告虽然未必都可信，但几个典型案例值得研究。一是完整攻击链的自动化。 一个犯罪组织利用Claude Code完成了从侦察、凭证窃取、网络渗透到数据窃取的完整攻击链，针对至少17个组织，包括医疗机构、应急服务、政府机关和宗教团体。没有部署传统勒索软件，而是直接窃取数据后勒索，金额超过50万美元。Anthropic威胁情报负责人Jacob Klein的说法是，过去需要一个专业团队才能完成的攻击，现在一个人借助AI代理就能实施。二是技术门槛的坍塌。 IT人员利用AI伪造简历、通过技术面试、维持远程工作。Klein说，以前需要大学学历、IT经验、英语能力才能通过面试，现在不会写代码、不懂英语的人靠AI就能蒙混过关，入职后日常工作也几乎全部依赖AI完成。三是恶意工具的批量生产。 一个网络犯罪组织用AI开发勒索软件变体，在暗网论坛以400到1200美元出售，提供ChaCha20加密和反分析逃逸功能。过去需要高级Windows内核知识才能实现的技术，现在打包成了商品。四是恶意软件的自适应进化。 报告中提到一个案例，恶意软件被检测查杀后，AI代理自主重写代码以规避检测。
二、防御侧要怎么变Trend Micro在2026年5月追踪到两个拉美攻击活动（SHADOW-AETHER-040和SHADOW-AETHER-064），攻击者用AI代理动态生成攻击工具，每次执行的代码都不同。传统基于签名的安全方案对此几乎无效，这也意味着防御侧也必须变。2026年9月1日，英伟达和CrowdStrike在FalCon 2026大会上联合发布了SafeMind，一个自主式AI安全防御系统。黄仁勋在现场说，"我们正处于网络安全的拐点。攻击已经自动化了，防御也必须跟上。"SafeMind的核心变化是，从"人审+工具辅助"转向"AI代理自主决策"。系统不再只是给安全分析师发告警，而是自主完成威胁分析、关联研判、响应执行的全流程，不需要等待人类审批。CrowdStrike CEO George Kurtz的说法是，这不是在现有安全工具里加一个AI助手，而是用AI代理替代人工分诊。Akamai在2026年8月发布的报告则指出了另一个方向。报告发现了三种AI原生攻击手法，一是vibe hacking（氛围黑客），攻击者偷偷修改开发者环境中的指令文件，让AI编码工具生成有漏洞的代码；二是CursorJacking，用恶意浏览器扩展窃取AI编码工具访问的API密钥和源代码；三是CometJacking，在公共网页上嵌入恶意指令，操纵AI代理窃取用户文件和凭证。Akamai的判断是，传统数据防泄漏工具是为文件和邮件时代设计的，现在企业敏感数据正在被碎片化地分散到数百万条提示词、未管理的个人账户和自主AI代理中。安全负责人必须从"试图阻断AI"转向"在交互层持续管控AI的运行方式"。
三、攻防节奏被重写了把攻击侧和防御侧的变化放在一起看，核心变化是攻防节奏被重写了，这也是最近业界的共识了。传统攻防节奏是，攻击者发现漏洞、编写利用代码、部署攻击，防御者分析样本、编写签名、更新规则，这个节奏以天甚至周为单位。AI介入后，攻击侧的变化是AI代理可以动态生成攻击工具，每次代码不同，绕过签名检测；可以自动化完成从侦察到利用的完整链条，速度从人天级压缩到分钟级；可以根据防御反馈自适应调整，被检测就重写代码。防御侧的应对是也必须用AI代理来匹配这个速度。CrowdStrike的SafeMind就是这个思路，用自主AI代理对抗自主AI代理，在机器速度上完成检测、分析、响应。Gartner在2026年8月发布的报告列出了AI在网络安全中的五个经过验证的用例，一是嵌入式AI助手，优化现有安全工具的使用；二是AI SOC代理，自动化工作流、优先级排序、数据富化；三是AI代码安全助手，在开发阶段发现安全问题；四是第三方问卷管理，自动化安全评估流程。五是策略机器人，用自然语言查询安全策略。Gartner同时指出，55%的CISO报告遇到过供应商在AI能力上的过度承诺，43%认为AI辅助工具未能交付承诺的效果。
四、黄仁勋的算盘黄仁勋在高盛科技会议上说，网络安全很可能成为AI的下一个主要用例。原因是AI编程自动化让可被利用的代码和需要修复的漏洞同步激增，攻防供需结构被重写。他还讲了一句有意思的话，"有什么比制造问题更能创造需求的方式呢。完成这件事有负责任的方式，也有不那么值得称道的方式。"背景是英伟达上周刚宣布约130亿美元收购AI平台Hugging Face，正为算力寻找下一个高价值出口。黄仁勋此时点出网络安全，等于给AI算力找到了一个新的需求叙事。冷静看，黄仁勋的话半真半假。真的部分在于AI确实在改变攻防节奏，上面列举的案例都是实打实的。防御侧确实需要升级，传统基于签名的方案确实不够用了。假的部分在于巨头叙事想把预算导向算力层和平台层。黄仁勋说"安全是AI下一个主要用例"，潜台词是"买更多GPU"。英伟达刚花130亿美元收购Hugging Face，需要为这笔投资找到需求支撑。
五、网安厂商的机会在哪黄仁勋想把安全从"成本项"重新定义为"AI算力消费场景"。这个叙事如果成立，安全产业的预算基础就变了，但国内厂商不应该跟着这个叙事走，应该在自己的场景层找到独立的机会逻辑。一是Agent行为审计。 AI代理可以自主执行攻击链，那防御端的AI代理也需要行为审计，确保它不会越权或被操纵。SafeMind这类自主决策系统，如果误判了怎么办？如果AI代理被对抗样本欺骗了怎么办？行为审计有必要的治理需求。二是AI滥用监测。 Anthropic报告记录了AI被用于自动化攻击、欺诈、勒索的实际案例。怎么检测AI代理是否正在执行恶意任务，怎么在AI代理的行为链条中插入检查点，这是一个真实的产品需求。三是AI编码安全。 Akamai指出的vibe hacking攻击说明，AI编码工具本身正在成为攻击面。怎么保护开发者环境中的AI工具不被操纵，怎么检测AI生成的代码是否包含后门，这是一个新方向。四是威胁情报共享。 Anthropic、OpenAI、Google已经开始共享AI滥用威胁情报。国内也需要建立共享机制，特别是针对AI智能体攻击的新模式。
六、几个值得研究的命题从网络攻防视角看，可以凝练出几个值得研究的命题。一是AI编程自动化对攻防节奏的量化影响。攻击成本下降曲线是什么样的，breakout time（突破时间）分布如何建模。这与half-day漏洞（从漏洞披露到被利用的时间）的研究一脉相承。二是AI代理的自主性与可控性。恶意软件自主重写代码规避检测的案例说明，AI代理的自主性已经超出了设计者的预期。如何在保持AI代理效能的同时确保可控性，是一个工程问题，也是一个治理问题。三是面向大模型智能体的威胁情报分析。现有的IP、URL、域名、邮箱形式的IOC威胁情报，在大模型智能体面临语义类的攻击时不适用，需要研究智能体之类威胁情报分析技术，包括识别虚假情报对抗。
七、小结AI大模型正在重写网络安全的攻防规则。攻击侧，AI代理可以自动化完成完整攻击链，动态生成攻击工具，自适应规避检测。防御侧，也必须用AI代理来匹配这个速度。黄仁勋说"安全是AI下一个主要用例"，这话半真半假。真在攻防节奏确实被重建了，假在巨头叙事想把预算导向算力层。网安厂商的机会在场景层。Agent行为审计、AI滥用监测、AI编码安全、威胁情报共享，这四个方向是真实的场景需求。
参考文献1. Anthropic. Threat Intelligence Report[R]. 2026-09-10.2. 华尔街见闻. 黄仁勋押注网络安全为AI下一个用例[N]. 2026-09-11.3. The Meridiem. Cybersecurity Crosses into AI Agent Era as Automated Attacks Force Defense Shift[N]. 2026-09-01.4. Trend Micro. Vibe Hacking: Two AI-Augmented Campaigns Target Government and Financial Sectors in Latin America[R]. 2026-05-12.5. Akamai. 2026 Enterprise AI Usage Risk Report[R]. 2026-08-10.6. Gartner. Beyond the Hype: Top 5 Cybersecurity AI Use Cases With Real Impact[R]. 2026-08-28.7. CRN. Jensen Huang: CrowdStrike Is Nvidia's 'No. 1 Cybersecurity Partner'[N]. 2026-09-01.8. TechTimes. Nvidia Buys Hugging Face for Nearly $13 Billion[N]. 2026-09-04.
原始来源： JohnThink