AWS 发布 Bedrock 上 OpenAI 模型提示缓存指南
热点事件持续更新
AWS 发布 Bedrock 上 OpenAI 模型提示缓存指南
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
AWS 发布实践指南，介绍在 Amazon Bedrock 上使用 OpenAI 模型时的提示缓存模式：AI 智能体可复用已处理的输入前缀，避免每轮重复计费。缓存分隐式与显式两种，隐式由 Bedrock 自动选择可复用前缀，显式通过 prompt_cache_breakpoint 标记边界。 指南给出的条件包括：可复用前缀需达到 1,024 tokens；缓存前缀最短存活 30 分钟，成功复用会刷新，也可能更长；复用需同一模型、同一 AWS 账户和区域，且存在匹配前缀。费用方面，缓存写入按正常输入费率的 1.25 倍计费，读取价格取决于模型。 指南中的测试显示，约 4,000 tokens 的工具与指令前缀首轮写入 4,120 tokens，后续请求直接读取。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 01:27
AI 智能体的“土拨鼠日”：在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- AWS Machine Learning BlogAI 智能体的“土拨鼠日”：在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式
Amazon Bedrock 的提示词缓存可让 AI 智能体复用已处理的输入前缀，避免每轮重复计费。缓存分隐式与显式两种：隐式由 Bedrock 自动选择可复用前缀，显式通过 prompt_cache_breakpoint 标记边界，可复用前缀需达到 1,024 tokens；测试中约 4,000 tokens 的工具与指令前缀首轮写入 4,120 tokens，后续请求直接读取。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。