MarkTechPost· Asif Razzaq·· 7 小时前AI 评分64
Together AI 发布 Together Compiler，智能体让推理最高提速 2.6 倍
Together AI Releases Together Compiler: Agents Make Inference Up to 2.6x Faster
AI 导读
Together AI 发布智能体驱动的推理优化系统 Together Compiler（TKCC），在 SemiAnalysis InferenceX 的 AgentX 负载上，最高比最佳公开配置提升 2.6 倍 TPS。
来源：MarkTechPost · marktechpost.com