プログラミング

Anthropic Message Threads 35%更快

\n Anthropic released Message Threads for the Messages API. Instead of resending the entire conversation with every turn, agents now only transmit what's changed. For reque

本文は SEO 深度のため主に中国語です。上記は要点のローカライズ。言語切替と深リンクで国際ナビできます。

## Anthropic Message Threads 35%更快

摘要

Anthropic 官方在 Messages API 中推出 Message Threads 功能。过去每次对话必须重传完整历史记录,现在仅发送新增内容,大幅缩短首次 token(time to first token)响应时间。对于长对话场景(500,000 到 1,000,000 个 token),实测中位数缩短约 35%。这一优化直接适用于开发 AI 编码代理、计算机使用代理及处理大量文档或图片的工作流。

什么是 Message Threads?

Message Threads 是 Anthropic Messages API 的公开 beta 功能,官方于 2026 年 11 月 2 日上线。它允许开发者将对话历史在服务器端暂存,仅在后续请求中提交新增消息 + 上一个消息的 ID。

  • 核心差异:传统方式 = 每次请求重发全部历史;新方式 = 每次只发增量。
  • 实际效果:长对话(50 万–100 万 token)首次 token 响应时间中位数下降 35%。
  • 适用人群:构建 Claude Code 代理、需要反复迭代对话的 AI 应用开发者。

官方数据明确指出,token 消耗量不变(Claude 仍读取完整历史),但网络开销和重传时间显著降低。功能已在 Claude 平台及通过 AWS、Microsoft Foundry、Google Cloud 提供。

谁适合使用?如何决策?

  • 强烈推荐:如果你正在开发或部署支持 Claude API 的代理系统(尤其是多轮迭代、长上下文需求),Message Threads 可带来直接的编码效率提升。
  • 可选评估:短期项目或单轮对话场景,可能无需立即迁移,保持原有 Messages API 调用即可。
  • 决策依据:以官方 API 当日性能数据为准,优先测试自身对话长度和 QPS。

实现方式:无需改动 API 调用

使用官方 Python SDK 即可完成适配,代码层面几乎无需变更。

```python import anthropic

client = anthropic.Anthropic

初始化线程(首次)

thread = client.beta.threads.create

第一轮请求

response = client.messages.create( model="claude-3-5-sonnet-20241022", max_tokens=1024, messages=[ {"role": "user", "content": "分析这个项目需求..."} ], thread_id=thread.id # 传递线程 ID )

后续轮次仅发送新增消息 + 上一个消息 ID

response2 = client.messages.create( model="claude-3-5-sonnet-20241022", max_tokens=1024, messages=[ {"role": "user", "content": "请继续优化代码..."} ], thread_id=thread.id ) ```

提示:实际项目建议结合官方文档进行版本兼容测试,并监控线程超时(默认 5 分钟不活跃自动过期)。

性能对比:旧版 vs 新版

场景旧方式(完整历史)新方式(Message Threads)效果
对话长度(token)500k–1M500k–1M相同
首次 token 时间基准基准 -35%快 35%
网络传输数据量每次重发数百 KB每次仅几 KB显著减少
适用工作流单轮查询多轮迭代代理、长文档处理更高效
价格/消耗完全不变完全不变无变化

数据来源于官方性能测试(50 万–100 万 token 请求)。实际结果以你当前部署环境和 QPS 为准。

GrokCode API 中转与本地部署实验室

当你将 Claude 集成到 GrokCode API 中转平台时,Message Threads 特性可直接享受代理层面的优化:

  • 通过 /api-transit 页面配置的会话包装网关,自动封装线程 ID,无需手动修改调用代码。
  • 结合 /api-lab 的本地部署环境,测试 500k+ token 对话时的真实延迟,验证 35% 提升。
  • 在 /api-transit/detector 页面可一键监控中转倍率与线程状态,避免长对话导致的性能波动。

推荐直接访问 /api-transit 页面配置你的 Grok API / xAI 中转通道,再通过 /tools/local-deploy 页面快速搭建 vLLM 测试环境,同步验证 Claude 代理的整体吞吐。

风险与边界

不推荐使用的情况:

  • 临时、单次对话场景:Message Threads 的线程暂存优势不明显。
  • 严格实时性要求:线程默认 5 分钟不活跃会过期,生产环境需额外处理超时逻辑。
  • 敏感数据处理:对话历史在服务器端暂存,建议在符合 GDPR/CCPA 等合规要求的场景下使用。

重要免责声明:本文为信息分享,非法律意见。任何实际部署均需自行测试 API 行为和性能,以官方文档或 GrokCode 平台实时数据为准。使用 Message Threads 可能影响账单稳定性或触发升级后预期不符。

延伸阅读

English summary

Anthropic has launched Message Threads as a public beta for its Messages API, cutting time to first token by about 35% for long conversations (500k–1M tokens). Instead of resending the entire history each turn, only changed messages are sent, while token usage and cost remain unchanged. This optimization is ideal for AI coding agents, computer-use workflows, and document-heavy applications. The feature works on the Claude platform and cloud providers like AWS, Microsoft, and Google. Implementation is straightforward with the official SDK—simply pass thread_id in subsequent calls. At GrokCode, this integrates seamlessly via API transit gateways and local vLLM labs for end-to-end testing. Always verify performance in your environment as results depend on QPS and context length. For production, monitor thread expiration (5 min idle) and compliance requirements.

适用于 GrokCode 倍率榜。信息仅供参考,不构成购买、投资或法律意见。