DeepSeek以Apache 2.0协议开源了推理框架DeepInfer,称其是支撑DeepSeek-V4.1-Flash生产服务的推理引擎,并同步发布了MIT协议的分词编解码层deepseek-recipe。 该框架目前仅支持离线推理,不包含KV cache系统、P/D分离和负载均衡;构建需要Linux、GCC 13或以上、Python 3.12,以及CUDA 13或CANN 9.2环境。
AI 根据报道生成 · 3 小时前更新
沿着报道,了解事件的不同侧面。
DeepSeek 以 Apache 2.0 协议开源了承载其生产服务的推理框架 DeepInfer,该框架是 DeepSeek-V4.1-Flash 背后的推理引擎,并同步发布了 MIT 协议的 deepseek-recipe 分词编码解码层。
还没有足够的连续观测数据,暂不绘制趋势。