清华大学与香港中文大学研究者开源了 AKV，一个面向 LLM Agent 的 KV cache 工程服务系统。该系统基于 SGLang、采用 Apache-2.0 协议，经 SGLang 在 NVIDIA GPU 上运行。研究团队称，它在 3 个模型和 4 个 Agent 基准测试中平均降低成本 27.7%，平均任务得分提高 1.7 分。 目前 AKV 仅支持 Qwen、GPT-OSS 和 MiniMax-M2 三类文本模型。
AI 根据报道生成 · 1 小时前更新
沿着报道，了解事件的不同侧面。
清华大学与港中大的研究者开源了 AKV，一个基于 SGLang、采用 Apache-2.0 协议的 KV cache 工程服务系统。它在 3 个模型和 4 个 Agent 基准上平均降低成本 27.7%，平均任务得分提高 1.7 分。
还没有足够的连续观测数据，暂不绘制趋势。