数学AI安全研究所：像证明密码不可破解一样证明AI安全

加拿大数学家、菲尔兹奖最新得主杰科布·齐默曼宣布成立“数学 AI 安全研究所”（MAISI）。这家位于旧金山湾区的独立研究机构计划于 2027 年 1 月启动运作，由 10 至 30 位数学家攻关 AI 安全难题，《纽约时报》报道称。齐默曼同时正加入 OpenAI 的安全团队，他表示，该领域需要“比目前水平高得多的安全标准”。

加密方案可以证明其不可破解，而无需尝试所有可能的攻击。AI 没有这种捷径。安全性只能在实践中体现，MAISI 认为，目前连“安全”的定义都不明确，甚至在理论上也是如此。

MAISI 正希望让这种证明成为可能。其目标是证明系统行为负责、结果正确，多个 AI 智能体协作不会引发非预期后果，且系统能抵御尚未发现的漏洞。一种潜在工具是零知识证明，它允许系统在不泄露 AI 实验室商业机密的情况下，证明自己没有作弊。