The Decoder 19天前 · 2026-11-03 20:51:44 · 27 阅读
Anthropic 推出 Message Threads,长对话首 token 响应提速 35%
Anthropic 在 Claude 平台推出 Message Threads 公测版。此前,每次 API 请求都要重新发送完整的对话历史。Message Threads 只传输自上一条消息以来新增的内容,据 Anthropic 介绍,对于 50 万到 100 万 token 的请求,首 token 响应时间可缩短约 35%。
该公司表示,编程 agent、计算机操作 agent,以及处理大量文档或图片的工作流收益最大。会话线程在请求之间以加密形式保存在内存中,闲置五分钟后自动过期。由于 Claude 仍会读取完整对话历史,token 用量不变。该功能可在 Claude 平台以及 AWS、Microsoft Foundry 和 Google Cloud 上使用,详情见文档。
原始来源: The Decoder