Together AI 发布智能体驱动的推理优化系统 Together Compiler(TKCC),它会在生产流量变化时持续重新优化推理。Together AI 称,在 SemiAnalysis InferenceX 的 AgentX 负载上,其吞吐量(TPS)最高达到最佳公开配置的 2.6 倍。 该系统已在 Together 的部分无服务器端点上运行,目前以限量测试形式向 Together 客户开放。
AI 根据报道生成 · 6 小时前更新
沿着报道,了解事件的不同侧面。
Together AI 发布智能体驱动的推理优化系统 Together Compiler(TKCC),在 SemiAnalysis InferenceX 的 AgentX 负载上,最高比最佳公开配置提升 2.6 倍 TPS。
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。