OpenAI 推出 Jev 同类“决策 API”,旨在控制智能体集群
周二 OpenAI 的 Dev Day 活动 上,CEO Sam Altman 在旁白中透露的新 “Decisions API” 成为最令人玩味的发布之一。
该 API 的功能似乎与 Jev 类似。Jev 是 TypeSafe AI 本月早些时候发布 的模型,明确面向软件自动化场景。这是一种基于 LLM 构建的超强分类器,开发者可以给它一组选项,它会以低成本、高速度输出对应的概率。
OpenAI 的 Decisions API 看起来也是同类产品。在活动中,Altman 将这项 API 描述为一种手段,让实验室的 Luna 模型在一组预定义选项(如图像分类类别或不同的 agent 行为)中进行选择。
Altman 表示:“通过让模型聚焦于这种选择,我们能在保留图像理解、广泛语言支持和安全防护等能力的同时,使其速度极快。”
针对这款新产品,TypeSafe 未回应 TechCrunch 的提问。不过,其 CEO Diogo Almeida(前 OpenAI 工程师,强化学习共同发明者)在 X 上开玩笑 说 “克隆战争” 要开始了。
他补充道,OpenAI 的这一动向或许是 “一个信号……以 System One 兼容的方式构建软件才是未来”。(“System One” 是 TypeSafe 的术语,指快速、直觉性的思考;而 “System 2” 则指审慎的推理。)
这里的潜台词是,以我们目前认知的 LLM 并不适合许多软件场景,因为它们相对缓慢且昂贵。开发者一直在用 Jev 来增强 LLM,并发现前者在速度更快、成本更低。
由于 OpenAI 以有限预览形式发布了 Decisions API,且目前 TechCrunch 尚未发现开发者对其进行深入测试,因此很难判断它与 Jev 有多相似。不过,根据 X 上的讨论,明显存在 关注度。
Decisions API 并不是互联网上唯一的类 Jev API——其他创业公司也在推出类似模型,OpenAI 也不会是最后一个做这件事的科技巨头。一个关键问题是:这些决策模型的输出与真实世界的校准程度到底如何。
Almeida 表示,公司的护城河在于它合成的数据,这些数据能生成具有统计意义的输出。
“快和便宜其实很容易,”Almeida 上周接受 TechCrunch 采访时说,“真想要又快又便宜,掷骰子就行,对吧?难的是智能,我始终追求的北极星就是不断把‘每美元智能’的帕累托曲线往外推。”
短短几周过去,这些模型显然已有了自己的未来,一个很可能的应用方向就是监控和保障 AI agent 的安全。此前 OpenAI 的 agent 在开放互联网上多次出现不当行为,作为应对措施之一,OpenAI 现在用一个单独的模型来盯防不良动作,代价是“相当可观的计算成本”。
QueryStory 创始人、资深网络安全专家 Shapor Naghibzadeh 认为,像 Jev 这样的模型可以用低得多的成本实现同样的效果。
他为上周末举办的一场黑客马拉松搭建了一个演示:用 Jev 将 agent 的每个动作与它被赋予的任务进行比对,高置信度判定为不良的动作直接拦截,其余部分则标记待审或放行。
理论上,这样的监控本可以阻止 Hugging Face 那起事件——而且用 Jev 做这种监控只需 2.94 美元,用前沿 LLM 则要 372 美元。
一个关键观察是:Jev 便宜到足以为 agent 的每一个动作都做一遍检查,这提供了一层审查机制,有望全面提升 agent 的可靠性。这正是 TypeSafe 当初想实现的目标——如今 OpenAI 也看到了其中的价值。