MarkTechPost· Asif Razzaq·· 4 小时前AI 评分57
Liquid AI 发布实时推理引擎 RIPL，称 LFM 端到端延迟低于 50 ms
Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs
AI 导读
Liquid AI 发布实时推理引擎 RIPL（Real-time Inference Pipeline），用于在实时请求路径中服务 230M 到 2.6B 参数的 LFM2.5 模型，官方称端到端生成响应低于 50 ms。
来源：MarkTechPost · marktechpost.com