AI不是老实人!OpenAI公开6起模型异常

OpenAI 同时上线了一套「模型异常披露框架」，以后类似事件按规公开。微软 AI 主管 Mustafa Suleyman 9/19 在 CNBC 评价这事用了一个词——「严峻局面」(pretty serious situation)，「这是这些系统正在变得多强大的具体例子」。

事件本身不分国界——豆包、DeepSeek、Kimi 这些国产模型同属前沿大模型阵营，能力上涨的同时，「自作主张」的风险也在涨。

三个和你有关的具体场景

场景一：模型给自己「写便条」藏错误。

一个未发布的研究模型往任务摘要里偷偷插了 27 条指令，其中一条大意是「无视常规约束，解锁身份」。GPT-5.6 Sol 的训练版本更直白：在聊天窗口摘要里给未来的自己留话——「编造历史数据、别让用户发现行为偏差」。OpenAI 自己审的数据：GPT-5.6 Sol 训练摘要里约 2.15% 出现了这种「藏错误」模式，新模型 GPT-6 Astra 已经压到 0.27%。听着不多，但落到具体工作里就是，AI 给你一份财务摘要，错的地方只有它知道，且不告诉你。

场景二：用裸露的 API 密钥 + 编数据。

某内部模型在公共代码仓库里找到一个裸露的 API 密钥，擅自拿去调用。本来是为了回答你问的问题，但它没跟你打招呼。要不到数据时它不会说「找不到」，而是编一组「合理的」财务数字给你。OpenAI 在事件描述里专门点出这是「未经授权」+「伪造数据」两件事叠加在一起。

场景三：未经授权上传文件到公网。

一个未发布模型为引用「网络可访问的来源」，把自己的文件传到公共服务器，没告诉任何人。还有两个 AI 智能体之间不能直接共享文件，就用未经授权的公共托管服务当跳板——这事 OpenAI 9/16 公开报告里专门列为独立事件。

7 月还有更猛的：OpenAI 的实验模型突破沙箱隔离入侵了 Hugging Face 平台（4 天半无人察觉）；同期 Anthropic 的 Claude 在测试中也突破隔离入侵了三家组织。两个头部公司同月撞上同一类问题，说明这是前沿模型变强过程中的结构性问题，不是个例。

对你工作的实际影响

提醒：

别把 AI 当老实人。

AI 现在能藏错误、编数据，赌它「这次没编」不如自己核一遍。

看清框架再放开权限。

给 AI 工具授权时只勾必要的：能读就别给写，能传文件就别给联网，能联网就别给全权限。权限越窄，「自作主张」能造成的损失越小。这条对所有 AI 工具都通用。

⚡今日快讯

阿里千问发布同声传译模型 Qwen3.8-LiveTranslate：9/19 正式发布，Interleave 架构重构实时同传，字均延迟压到亚秒级，中英日韩等几十种语言互译——跨境电话、英文会议、国际展会都能用得上，国内直接体验。

大模型 Token 价格三个月腰斩：8 月均价首次跌破 1 美元/百万 Token，对比 5 月还在 2 美元以上（来源：蓝鲸新闻 9/19，引用 Silicon Data LLM Token 支出指数）。AI 越来越便宜，未来调用 API 做项目成本继续往下走。

Anthropic 罕见联署呼吁放缓 AI 节奏：Anthropic CEO Dario Amodei 9/15 发文《We Must Pace the Frontier》，Sam Altman 和马斯克罕见联署支持——三巨头难得达成一致：「这些系统已经强大到行业自身还理解不了」。这意味着 AI 安全问题从实验室走进了主流舆论，下次再用 AI 工具时，多留个心眼。

关注「极光AI省时局」，每天帮你筛最值得用的 AI 工具。