前OpenAI研究员打造AI模型Jev：专注判断而非生成文本

创业公司 TypeSafe AI 推出了一款名为 Jev 的模型，它不写聊天回复，而是在软件内部快速做出判断。卖点是速度和成本，但应用范围也很受限。

创业公司 TypeSafe AI 发布的 AI 模型 Jev 走了一条不同于常见聊天机器人的路线。它不生成文本、邮件或代码，而是专为在其他程序内部做出狭窄的判断和概率评估而设计。联合创始人兼 CEO Diogo Almeida 曾任职于 OpenAI，也是为 ChatGPT 奠定基础的 InstructGPT 论文的作者之一。

Jev 的核心思路是：开发者定义问题和可能的答案，由模型对各选项打分。

不是回复客户，而是给请求分类

文档里的一个例子展示了实际用起来的样子。一位客户给网店写信，说一笔订单被扣了两次款，要求退回多收的那笔。在有人处理之前，这个请求得先分类：是支付问题、配送问题还是退货问题？客户是想退款，还是只想弄个明白？

这时开发者就把店铺软件接入 Jev，定义好这些问题和允许的答案。每收到一条新消息，软件就把客户文字交给 Jev。它拿回来的不是一封回复信，而是诸如「支付问题」这样的标签，以及客户想要退款的概率。

店铺软件随后套用固定规则：支付问题转给财务，退款请求打上标记。标签不明确时，再由人工审核。Jev 负责给出判断，软件根据预设规则决定后续怎么处理。

这不代表钱已经退了。是否真的重复扣款，还得后续对照实际交易记录来核实。可以另配一个聊天机器人告知客户核实后的结果——但单就分类而言，并不需要它。

亚秒级响应时间可能打开新的应用场景

TypeSafe 表示，Jev 能在 70 到 500 毫秒内给出答案，比目前最快的语言模型快得多。为此，该模型跳过了逐字生成文本的步骤，而是并行计算多个输出。在同一请求中增加更多问题，响应时间几乎不会增加。

这种速度使得在 AI 助手的每次响应之前进行检查成为可能。草稿是否与此前的对话相矛盾？它是否声称了一笔客户账户中未记录的退款？TypeSafe 在其示例工作流中描述了此类检查。该公司在销售和客户服务领域列出了更多潜在用途，例如识别购买意向、按主题对请求进行分类，或判断何时应由人工接管。

但常规语言模型也能输出预设类别和数据结构。OpenAI 正是为此提供了Structured Outputs。仅具备结构化响应格式并不足以让 Jev 在众多竞争者中脱颖而出。要想获胜，该模型不仅需要在速度或成本上更具优势，还必须提供足够好的质量。

已发布的性能测试存在局限性。TypeSafe 比较了由其自行构建的四个工作流，并使用了其他 AI 模型的响应作为参考，而非独立验证的正确答案。评估中还缺失了 GPT-6 Astra。不过，该模型价格非常低廉。TypeSafe 列出的价格为每百万输入 token $0.042。据称，它对输出不收费。

无幻觉不等于无错误

TypeSafe 将 Jev 宣传为一个不会产生幻觉的模型。但该保证仅覆盖允许的输结构。模型不会生成预设选项之外的答案，但在这些选项内做出事实错误的选择仍然是可能的。

该模型旨在让后台的大量微小判断更加经济。这些判断是否足够可靠，需要各公司针对自己的任务进行测试。开发人员最初需要通过等待列表获取访问权限。