Anthropic 公测 Message Threads 降低首 token 延迟

Anthropic 在 Claude 平台以公开测试形式发布 Message Threads。该功能让 API 请求不再重发完整对话历史，只传输上一条消息以来的变化。Anthropic 称，在 50 万至 100 万 token 的请求中，首 token 时间降低约 35%，编码智能体、computer-use 智能体和处理大量文档或图像的工作流受益最大。 该功能在 Claude 平台以及通过 AWS、Microsoft Foundry 和 Google Cloud 提供。线程在请求之间加密保存在内存中，闲置五分钟后过期。Anthropic 表示 token 用量不变，因为 Claude 仍会读取完整对话历史。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。