AI 正在重塑故障处理流程，但棘手问题仍需人类解决

AI 正在飞速改变工程团队处理生产故障的模式：它不仅能汇总故障沟通记录、解析不熟悉的代码、给出修复方案、生成代码合并请求，还能越来越多地辅助故障排查诊断。不过，Uptime Labs 在其故障处理行业峰会（Incident Fest）专题研讨中指出，AI 在故障处置场景应用日益普及，却催生了一个悖论：AI 自动化的常规工作越多，当系统以新颖、复杂或意想不到的方式发生故障时，人类专业知识的重要性就越高。

此次讨论汇集了 Uptime Labs、Chime 和 Rootly 的观点，旨在探讨当 AI 成为事故指挥中心的一名“参与者”时会发生什么。其核心论点并非要拒绝使用 AI，而是企业需要有意识地规划如何引入 AI。AI 可以大幅减轻响应者的认知负担，但团队必须避免因 AI 自动化的普及逐步消磨工作人员的专业能力、态势感知能力与决策能力——这些恰恰是 AI 抵达能力上限时解决问题不可或缺的关键。

AI 所能带来的潜在益处十分可观。Uptime Labs 援引 J. Paul Reed 分享的一项研究结论：当 AI 给出的诊断建议准确无误时，工作人员的处置效率会远超无 AI 协助的状态。但该研究同时也指出了风险：倘若 AI 给出错误建议、形成误导，人类的表现反而会远不如完全不靠 AI 协助的时候。由此得出的启示并非简单地“使用 AI”，而是要分清哪些场景可以信任 AI 的输出结果、该怎样核验 AI 给出的结论，以及何时必须收回主导权，交由人类处理。

本次讨论中提出的一个最引人注目的观点是“剩余原则（Leftover Principle）”。随着自动化接管各类常规任务，留给人类处理的工作都是那些非常规、模糊难解、自动化系统尚且无力解决的难题。

事故响应尤其容易受到这种效应的影响。如果 AI 越来越擅长处理简单的故障，工程师需要处理的常规事故就会减少，对应的实操历练也随之减少。一旦极端复杂的故障突如其来，负责处理它的工程师可能比前几代人缺乏实际操作经验。

由此催生了 Uptime Labs 所描述的几种相互关联的风险：剩余的事故变得更难处理；由于缺乏历练，人类技能可能会退化；由于响应者往往是在 AI 完成大量初步诊断后才介入，可能会失去对现场态势的感知；企业还可能出现“责任缺口”——人类虽然仍需为决策负责，但却不再具备做出自信决策所需的专业知识。

这一观点与数十年来针对自动化悖论的研究结论不谋而合：企业自动化程度越高，就越有可能无意间削弱了自动化失效时所必需的人类处理能力。对于事故响应而言，这意味着企业不能想当然地认为 AI 可以彻底取代资深故障处理人员。恰恰相反，企业反而要有规划地加大投入，借助故障演练、场景模拟、桌面推演、混沌工程以及常态化故障处置实操训练等方式维持人员的技能。

美国国家标准与技术研究院（NIST）在其 2026 年关于监控已部署 AI 系统的研究中也提出了同样的担忧。NIST 特别强调了对“人机反馈循环”的研究不足、在 AI 快速部署的同时难以规模化实施由人类主导的监控，以及尚未解决的“自动化监控应如何与人类验证的监控相平衡”的问题。这些发现进一步证实，仅仅在 AI 驱动的流程中安排一名人员值守是不够的；企业需要了解人类该如何对接、核验 AI 给出的判断，以及这些人机交互长期下来会对决策质量产生怎样的影响。

这一挑战还存在另一层面：AI 辅助开发可能会急剧增加软件的构建和变更数量。如果团队生成代码、提交合并请求、完成部署的效率大幅提升，上线投产的代码变更数量也会随之增多。

Uptime Labs 在这场研讨中用通俗的逻辑阐释了故障发生频次的影响因素：事故数量受“变更量”和“任何单一变更引发故障的概率”这两个变量的影响。AI 可能会大幅增加第一个变量，而 AI 生成的代码、测试、依赖项和配置的质量将决定第二个变量。

正因如此，成熟完备的工程实践非但不能被弱化，反而愈发重要。在迭代变更节奏不断加快的环境下，严格的部署管控、可观测性、功能开关、自动化测试、韧性工程以及快速回滚机制全都成为至关重要的防护手段。我们的目标不一定是要杜绝 AI 造成的所有失误，而是要做到能够快速发现问题、有效控制故障范围、安全撤回错误变更。

Uptime Labs 此次讨论得出的最重要启示是：AI 可能会从根本上改变事故响应者的角色，但并不会消除对事故响应者的需求。随着 AI 处理越来越多的常规工作，工程师可能会越来越多地负责处理那些罕见的、模糊的、后果严重的故障——这些正是超出自动化诊断能力范围的问题。

查看英文原文：https://www.infoq.com/news/2026/08/ai-incident-response/