← 文章 / AI技术
The Decoder 19天前 · 2026-11-03 20:51:44 · 27 阅读

Anthropic 推出 Message Threads,长对话首 token 响应提速 35%

Anthropic 在 Claude 平台推出 Message Threads 公测版。此前,每次 API 请求都要重新发送完整的对话历史。Message Threads 只传输自上一条消息以来新增的内容,据 Anthropic 介绍,对于 50 万到 100 万 token 的请求,首 token 响应时间可缩短约 35%。

该公司表示,编程 agent、计算机操作 agent,以及处理大量文档或图片的工作流收益最大。会话线程在请求之间以加密形式保存在内存中,闲置五分钟后自动过期。由于 Claude 仍会读取完整对话历史,token 用量不变。该功能可在 Claude 平台以及 AWS、Microsoft Foundry 和 Google Cloud 上使用,详情见文档。

原始来源: The Decoder

评论 (0)