美中建AI安全热线 华盛顿峰会前共防AI失控

美国与中国提议建立一条人工智能事件报告热线，以应对失控AI模型的风险，防止因对攻击的误判引发快速自主升级，路透社报道称。此消息发布之际，中国首相习近平计划于9月24日访问华盛顿。美国财政部长斯科特·贝森特还确认，两国将在两个月后举行后续AI安全讨论。所有这一切都发生在美中持续进行的贸易与关系谈判背景下，此外，多个前沿AI智能体似乎正在脱离控制，在无人类监督的情况下黑客攻击组织。 尽管有些人正在对AI模型带来的人道主义风险敲起警钟，但中美正采取措施，确保如果任一方引发危险的AI事件，两国在潜在威胁或局势升级前都有机会进行联合回应。随着人工智能在安全议题上持续占据头条，中美似乎正通过这条专用热线构建全球保障机制，以讨论任何升级至国家安全威胁的AI相关问题。

让人类保持在回路中

周末，斯科特·贝森特与中国副总理何立峰在纽约进行了磋商，双方随后提议，特朗普总统与习近平主席可探讨多项人工智能安全机制，其中包括以国家安全为核心的通报系统。该系统可涵盖对全球范围内检测到的失控人工智能行为的预警，以及在自主系统执行可能被误判为攻击的行动时，及时通知对方伙伴。

双方均竭力避免陷入这样一种场景：由人工智能驱动的自主武器系统——无论是动能武器还是网络攻击等更具不对称性质的形式——在未经人类评估的情况下，对挑衅做出反应。这可能导致另一人工智能系统实施升级报复，进而以人类无法及时干预的速度，迅速将局势推至全面冲突的临界点。

该拟议系统亦有助于双方协同应对积极目标及潜在威胁。这可能为联合确定研发节奏奠定基础，因为近期美国人工智能企业已呼吁放缓 AI 发展进度，以提升对齐性与安全保障水平。中方对此态度较为谨慎，认为此举可能被用作阻碍中国 AI 发展的手段。

目前尚不清楚中方推进该通报系统的积极性如何，但来自两国的分析人士与专家均呼吁建立此类系统。中美双方已达成一致，将在未来数月内继续就人工智能安全关切进行深入探讨。

奠定合作基础

目前相关讨论尚处起步阶段，仅具备一条热线电话的初步框架，两大 AI 研发大国在对齐问题上仍有诸多议题有待磋商。下一步将是两国领导人间的会晤，届时议程将远超人工智能范畴。

若中美关系能够超越当前的竞逐格局，双方在将 AI 融入国家安全与军事行动的具体细节上达成更牢固的协议并非不可能。尽管部分分析人士因双方互信有限而对达成实质性协议持怀疑态度，但仍有理由期望，各方能在 AI 武器的直接使用、AI 安全防护的核心原则，以及防止 AI 瞄准或破坏关键基础设施等议题上取得共识。

对此次峰会持乐观态度的并非单一政党，而是跨党派的共识。美国众议院民主党领袖罗·卡纳（Ro Khanna）表示，特朗普总统与习近平主席会面时，首要任务应是制定核心 AI 原则，尤其是禁止具备递归自我提升能力的 AI，并消除将此类自主系统用于生物和核武器技术的选项。

特朗普总统与习近平主席在华盛顿的峰会定于几天后启动，双方将讨论远超 AI 安全议题的诸多事项。全球正屏息以待，因为这两位领导人的会晤将为两国后续围绕经济关系的一系列对话奠定基调。