返回行业动态
智能体与应用

Anthropic 给 Messages API 加了「消息线程」:长会话首字快三成半,账单没变

Anthropic 将 Messages API 的 message threads 开放公测:首次请求发送完整对话并创建线程,之后每轮只发新增消息与上一轮响应 id。官方称在 50 万至 100 万 token 的请求中,首 token 延迟中位数降约 35%,多数 Claude Code 用户已默认开启。但模型每轮仍读完整上下文,token 用量、定价与限流均不变,线程闲置 5 分钟即过期且不支持零数据保留。

来源:Anthropic:Make long-running agents faster with message threads原标题:Make long-running agents faster with message threads查看原文
Anthropic 给 Messages API 加了「消息线程」:长会话首字快三成半,账单没变

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

11 月 2 日,Anthropic 在 Claude Platform 的发布说明中宣布,Messages API 的 message threads 进入公开测试,beta 标头为 message-threads-2026-08-12。这项能力解决的是一个很具体的浪费:一个编程智能体在一次会话里可能发出数百次请求,而每一次都要把此前的全部消息与工具执行结果重新上传一遍。上下文涨到几十万 token 之后,光是传输、校验与分词就吃掉了相当一部分首字等待时间。

接口怎么改

  • Create:首次请求与现在一样带完整 messages、system 与 tools,额外加 thread 的 create 字段,API 会在该次响应 id 下保存对话。
  • Continue:之后每轮只发上次之后的新消息,加 thread 的 continue 字段与上一轮的 previous_message_id;不要再带 system 与 tools,线程会沿用 create 时的取值。
  • Replay:线程是尽力而为的。无法续接时 continue 会返回 404,客户端需用完整历史重新 create 并沿用新 id。官方 SDK 的 thread helper 会自动完成这一次重放。

收益与代价

官方给出的数字是:在 50 万至 100 万 token 量级的请求中,首 token 延迟(TTFT)中位数下降约 35%,前提是多数 Claude Code 用户已默认开启该特性。有媒体报道称,长对话单次请求体积中位数从约 800KB 缩至 1.8KB,降幅约 99.8%——这一具体数值未见于官方博客,引用时宜标注为媒体口径。

代价有四条,写代码的人最好先看清:其一,模型每轮仍要读完整上下文,token 用量不变,定价、速率限制与提示缓存计费规则都不变,省的是等待不是账单;其二,线程在最后一次请求后 5 分钟过期,最迟在最后一次使用后 1 小时内删除,长空闲后的第一次请求会突然变慢;其三,对话在服务端内存中加密保存、不落盘,因此不支持零数据保留(ZDR),也不适合 HIPAA 场景;其四,应用仍是唯一真相源,必须自己完整留存历史并实现 404 后的重放路径。

谁会真的获益

官方点名的场景是长跑的编程智能体、计算机操作类智能体(截图不必每轮重传)、以及文档与图片比重很大的工作流。判据其实很简单:如果一次会话会在一小时内从几万 token 涨到八十万 token 且中间不停发请求,开线程几乎稳赚;如果每轮都是独立的短任务,线程只会多添一套状态管理。上下文本身很小的短会话,重发的代价可以忽略,收益也接近零。

还有一处容易混淆:message threads 与 prompt caching 不是一回事。后者是计费层面的前缀缓存,前者是运行时层面的增量传输,两者不冲突、可以叠加——缓存压住成本,线程压住延迟。当前公测覆盖 Claude API、AWS 上的 Claude Platform、Google Cloud 上由 Anthropic 托管的 Claude 模型,以及 Microsoft Foundry 中的 Claude;不支持 Batches、带 thread 的 token 计数与按需压缩,也与 Managed Agents 的 session threads 不是同一机制。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。