理应资讯
软件研发智能化

Anthropic 上线消息线程公测:长会话智能体可只传新增消息

理应编辑室 ·

Anthropic 于十一月二日宣布消息接口线程进入公测:会话先完整上传一次,后续回合只传新增消息与上一响应编号,长会话首字等待可下降。

Anthropic 在十一月二日宣布,面向 Claude 平台的消息接口新增“消息线程”能力,并进入公开测试。它要解决的是长程智能体里一个很具体的摩擦:编码代理或电脑操控代理往往要跑上百轮,每一轮如果都把此前全部对话、工具回传甚至截图重新塞进请求,会话一旦堆到数十万乃至上百万词元,光是上传和再次校验就会把“第一个字出来”的时间拉长。

产品说明给出的用法是两步。第一轮仍按今天的习惯发送完整对话,并附带系统提示与工具定义,同时加上创建线程的参数;接口把整段内容连同模型回复记在该次响应的编号下。之后每一轮只提交相对上一响应的新增消息,并写明要续上的那个响应编号,系统提示和工具定义不再重复上传。文档要求请求带上测试通道专用请求头。线程保存在服务器内存里加密存放,不写入持久磁盘;大约五分钟没有新请求就会过期,并且至多在最后一次使用后一小时内删除。客户端必须自己留底,若续传收到找不到线程的错误,就重新创建一次。

厂商称,多数 Claude Code 用户已默认打开该能力;在五十万到一百万词元量级的请求上,首字时延的中位数大约下降约三成五。同一份材料也写清:计费和速率限制不变,因为模型每一轮仍会读完整段对话,省下的是重复传输与前置处理,不是词元本身。能力覆盖官方接口,以及亚马逊云、谷歌云上由 Anthropic 托管的通道,还有微软云市场中的 Claude。文档标明线程不适用零数据留存与医疗隐私合规通道,也没有提供列出、读取或删除线程的管理接口;与托管智能体产品里的会话线程不是同一套概念。

对要上长程代理的团队,收益主要落在三类场景:持续改代码并回传工具结果的编码代理、需要反复带屏幕截图的电脑操控代理,以及文档和图片很重的工作流。请求体变小后,首字等待更稳,但工程上仍要处理过期重放,并接受这是尽力而为的短期缓存。落地时还要核对所在云通道是否已开通同一测试能力,避免只在官方控制台验证通过、却在企业云账号里静默失败。若团队已经依赖批量推理、按需压缩上下文或推理钩子等能力,需要先对照文档里的不兼容清单,再决定是否把线程当作默认路径。

独立媒体核对了公测定位与约三成五的时延口径,并提醒读者:它减的是等待,不是账单。发布日在十一月二日,本采集窗内更多是开发者转述与讨论,正式依据仍以官网说明与平台文档为准。公开材料没有给出跨模型、跨地区的统一压测表,因此不能把单一中位数写成所有负载的保证值。对成本敏感的团队,仍应继续看缓存价格与词元账单,而不是指望线程单独把费用打下来。

参考资料

  1. Make long-running agents faster with message threads · Anthropic
  2. Message threads · Claude Platform Docs
  3. Anthropic’s message threads let Claude agents skip resending chats · The Next Web