Liquid AI 发布实时推理引擎 RIPL(Real-time Inference Pipeline),用于在实时请求路径中服务 230M 到 2.6B 参数的 LFM2.5 模型。Liquid AI 称其端到端生成响应低于 50 ms,但该数字为官方自报,且较长请求无法维持这一延迟。 RIPL 面向企业部署,为闭源产品,运行于 NVIDIA H100、H200、B200 和 RTX PRO 6000 GPU。
AI 根据报道生成 · 1 小时前更新
沿着报道,了解事件的不同侧面。
Liquid AI 发布实时推理引擎 RIPL(Real-time Inference Pipeline),用于在实时请求路径中服务 230M 到 2.6B 参数的 LFM2.5 模型,官方称端到端生成响应低于 50 ms。
还没有足够的连续观测数据,暂不绘制趋势。