← 文章 / AI技术
Eugene Yan 7天前 · 2026-11-15 02:12:24 · 17 阅读

利用 LLM 保护源代码安全:AI Engineer 2026 演讲回顾

AI Engineer 2026 - 用 LLM 保护源代码安全

1 分钟阅读 llm cybersecurity engineering

我在旧金山的 AI Engineer World’s Fair 2026 上分享了一个话题:如何利用 LLM 保护源代码安全。内容涵盖为什么是现在、构建安全 Agentic 框架的六个步骤,以及在发现漏洞变得容易后显现出的组织瓶颈。

幻灯片如下。AI Engineer 演讲页面有录像、章节和文字实录,技术博客则分享了演讲背后的实战经验。

标题页:Anthropic 的 Eugene Yan 在 AI Engineer World’s Fair 2026 上的演讲:用 LLM 保护源代码安全

内容概览:为什么是现在,如何与模型协同进行安全工作以及潜在的瓶颈,以及入门方法

第一部分:为什么是现在。三大趋势:模型能力、发现的漏洞数量,以及瓶颈的转移

模型在网络安全任务上的能力大约每 5 个月翻一番

Mozilla 在 2026 年 4 月发现的漏洞比 2025 年全年还多

著名的公开漏洞与利用案例:Log4Shell 和 Heartbleed

新的瓶颈:从发现漏洞转向验证、分诊和修补

第二部分:构建你自己的安全 Agentic 框架的六个简单步骤

为什么现在行得通:Agentic 框架

六个步骤:威胁建模与沙箱环境作为准备工作,随后是发现、验证、分级、修复的循环

运行示例:认识 order-service

威胁建模:动手前先定义什么算漏洞

示例:基于代码库初始化的威胁模型

沙箱环境:隔离 agent,保证运行可复现

示例:沙箱内包含目标技术栈,以及一个正在探测它的安全 agent

发现:丰富的上下文、简短的提示词、实用的工具

示例:找出漏洞

示例:发现 agent 找到的一个漏洞——SQL 注入

验证:独立确认哪些漏洞真正可被利用

示例:概念验证(PoC)成功窃取了用户数据

分级:按根因去重,按利用前提排序

示例:补偿性控制措施将发现的风险从 High 降级为 Low

修复:修复、验证、排查变体,形成闭环

示例:修补代码,然后回到威胁模型完成闭环

六个步骤各自的关注点

第三部分:又一个瓶颈——组织流程

发现漏洞数量增加一两个数量级后会发生什么?

你可能遭遇的组织瓶颈及应对策略

第四章:如果只记住一点

立即开始,以及具体方法

资源 #

如果您觉得本文有用,请引用为:

Yan, Ziyou. (Jun 2026). AI Engineer 2026 - Using LLMs to Secure Source Code. eugeneyan.com. https://eugeneyan.com/speaking/aie-2026.

或者

@article{yan2026aie2026,
  title   = {AI Engineer 2026 - Using LLMs to Secure Source Code},
  author  = {Yan, Ziyou},
  journal = {eugeneyan.com},
  year    = {2026},
  month   = {Jun},
  url     = {https://eugeneyan.com/speaking/aie-2026}
}

分享至 X LinkedIn Bluesky Hacker News

继续阅读

加入 13,200+ 位读者,获取机器学习、推荐系统、LLM 与工程方面的最新动态。

邮箱地址 订阅

评论

我是 Anthropic 的技术成员(Member of Technical Staff),致力于连接业界实践与前沿研究,帮助构建可扩展、安全可靠的 AI 系统。我曾在 Amazon、Alibaba、Lazada 和一家 A 轮医疗科技公司带领 ML/AI 团队,并撰写关于 LLM、推荐系统和工程的文章。

按 Ctrl P 搜索,Ctrl Shift P 打开命令面板。

© Eugene Yan 2015–2026

回答由 Claude 阅读本站内容生成,可能存在错误。 新对话返回搜索

> 命令@ 本页标题# 标签? 帮助

Ctrl P 搜索 Ctrl Shift P 命令

原始来源: Eugene Yan

评论 (0)