OpenAI 呼吁建立 AI 递归自我改进国际标准

OpenAI 正在推动制定关于高级 AI 研发的国际标准，重点关注递归自我改进（RSI）。RSI 允许 AI 系统自动化构建下一代 AI 所需的研究，从而可能极大地加速技术进步。"完全自主的 RSI 目前尚未实现，" OpenAI 表示，其研发应持续进行，"直至能够安全执行"。若缺乏成熟的保障措施，人类可能失去对 AI 发展的掌控，而 AI 则可能变得"更具危险性、对齐度更低，且整体上对人类构成威胁"。

OpenAI 提议由美国牵头制定全球技术标准，以国家 AI 安全研究所及诸如 CAISI 和 ISO 等机构为基础。具体措施包括共享测量方法、事故报告机制，以及针对自动化 AI 研究的人类监督规则。联合国科学小组近期提出了类似关切，警告了自主智能体集群失控的风险，并建议参考航空、核能及网络安全框架，建立国际 AI 安全合作机制。