← 文章 / AI技术
TechRadar 1小时前 · 2026-09-18 17:22:25 · 0 阅读

如何从 AI 发现迈向 AI 执行落地

分享本文 0 参与讨论 关注我们 在 Google 中设置我们为优先来源 新闻通讯 订阅我们的新闻通讯

大多数企业影子 AI 项目已完成第一阶段。它们完成了资产发现,找到的 AI 应用远超预期,并整理了一份电子表格。随后,项目便陷入停滞。

这个模式几乎普遍存在。发现确实有用,但也是容易的部分的终点。据 Microsoft 2026 年 2 月的 Cyber Pulse 调研,企业平均运行着 37 个 agent——但知道这个数字改变不了另一个事实:超过一半的 agent 在没有任何安全监督或日志记录的情况下运行。

盘点告诉你发生了什么,强制执行才决定将要发生什么。

Latest Videos FromTechRadarWatch full video here: Brad LaPorte

Morphisec 首席营销官。

对 AI 而言,强制执行意味着什么

强制执行是能够在 AI 动作发生的过程中改变其结果,而不是事后写报告。对 agent 来说,这意味着四种干预之一:阻止工具运行、收窄它的访问范围、对特定动作设置审批门槛,或在执行中途终止进程。

这四种手段不可互换,选哪个正是大部分工作所在。阻断简单粗暴,抱怨最多。范围收窄最持久,也最难配置。审批门槛在审批队列沦为走过场之前有效。终止是最后手段,必须赶在动作完成前生效。

为什么网络阻断总是失败

在网络边界阻断 AI 域名,是大多数组织的第一个控制手段。它部署简单、对董事会好解释,但能拦住的实际风险越来越少。AI 早已不是一个网站

本地模型没有任何可供检查的出站流量。嵌入式 copilot 运行在已授权的应用内,其流量看起来就是你批准过的厂商。IDE 和命令行 agent,以及 localhost 上的 MCP server,根本不经过你控制的网络边界。个人设备则是最老牌的缺口,如今 AI 工具免费又普及,问题只会更糟。

底层深处的权限问题

相比以往的访问控制难题,AI 强制执行的难点在于:代理(agent)是借用人类的身份和权限来行动的。日志可能显示某个员工读取了文件,或者凭证属于为其他用途预配的人员或服务账户。现有的身份控制措施只判断该主体(principal)是否被允许执行此操作,而答案通常是肯定的。

现有身份基础设施从未被设计来回答的核心问题是:这种由软件代表人类执行的动作,是否是人类本会认可的?正因如此,AIUC-1 等新兴标准将未授权的代理操作、访问权限强制以及不安全的工具调用列为独立的控制项,而非将其混入通用的访问管理。这种分离思路是正确且必要的。

强制执行机制的部署位置

强制执行必须部署在动作实际执行的环节,因为这是唯一能做出确定性决策的地方。在指令层(如输入过滤和提示词护栏)的控制措施会在文本到达模型之前对其进行评估。这些措施值得部署且能降低风险概率,但它们本质上具有不确定性,而且在大语言模型内部将指令与数据分离的问题至今仍未解决。

因此,架构设计必须考虑指令穿透的情况。如果在代理的工具调用触发时能对其范围进行限定、门禁拦截或阻断,那么指令的来源就不再重要。无论是恶意的提示词、被污染的文档,还是无意的错误,最终产生的都是同一个被阻断的动作。这正是你需要的特性:结果不依赖于对意图的正确分类。

这也是端点和运行时部署方案在架构争论中不断占优的原因:几乎所有 AI 交互最终都会变成设备上的进程,在那里本地模型、嵌入式 Copilot 和浏览器标签页本质上都是一样的:正在执行的代码。

如何在不破坏现有流程的前提下起步

强制执行项目一旦失败往往动静很大,因此要合理安排实施顺序,让失败悄然发生:

  1. 不要试图一次性处理所有清单,只挑选一个类别:一组明确禁止的工具,且有明显的合规替代方案。
  2. 先运行两周的监控模式。你会发现那些没人提前告知的合法工作流。这种情况总是存在的。
  3. 在对智能体实施强制管控前,务必为每个智能体指定一名负责人。没有负责人的智能体既无法豁免也无法修复,这会将阻断措施演变为一场事故。
  4. 先在小范围内启用阻断功能,在扩大范围前,先衡量投诉率。
  5. 从第一天起就将强制管控日志接入证据管道;事后补建比从一开始就构建要难得多。

向领导层汇报什么

从一个他们不喜欢的数字开始切入:统计那些运行中既无负责人、无日志记录、也无管控措施的 AI 智能体数量。这个数字通常大到足以单凭它就能为项目争取到资金。接着,承诺第二个数字:第一季度采取的强制管控行动,并将其细分为阻断和批准两类。一个从不拦截任何内容的控制措施算不上控制,那只是一份包装更好的报告。

发现(Discovery)是一张清单。强制执行(Enforcement)是一个决定。

建立清单方面是有价值的。但它不是最终的交付物。一个 AI 智能体比审批链中的任何人类都移动得更快,它不会等待季度审查。那些能安然度过这一时期的组织,将是那些能够在行动完成前阻止它,并在事后确切证明是哪条规则阻止了它的组织。找到它们,然后确保能够阻止它们。

我们曾介绍过最佳的端点保护软件。

本文由TechRadar Pro Perspectives制作,这是我们通过科技行业最优秀和最具洞察力的专家声音打造的渠道。

此处表达的观点属于作者本人,不一定代表 TechRadarPro 或 Future plc 的立场。如果您有兴趣投稿,请在此处了解更多详情:https://www.techradar.com/pro/perspectives-how-to-submit

原始来源: TechRadar

评论 (0)