是石科技发布TokenFleet调度框架

是石科技在2026 CCF全国高性能计算学术大会期间发布TokenFleet分布式调度框架，重点解决请求路由、跨机房容量协同与混合负载治理，目标是提高现有算力的有效产出。 该框架中，TokenPilot与SLOMax面向现有集群，FleetMind面向后续新增算力机房的扩展。是石科技提供的GLM5.3调优数据显示，在所测显卡集群与负载条件下，采用预测延迟路由后，P95首Token延迟降低32.4%、P50降低71.3%；SLOMax流控协同调度使达标输出吞吐提高约29.4%，达标比例从约67%升至约86%。 上述数值属于收益测算，展示调度希望改善的产出结构，实际收益仍需结合具体负载与服务门槛验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。