Together AI 发布 Together Compiler：智能体让推理速度最高提升 2.6 倍
Together AI 发布 Together Compiler，一个由智能体驱动的持续编译循环，可随流量变化不断重新优化推理前向过程。据称它在不到 24 小时内、按每模型计，击败了最优 InferenceX 配置，吞吐最高提升 2.6 倍。这表明推理优化正从静态调优转向由智能体驱动的持续自适应，推理成本与延迟竞争将进一步加剧。
报道来源
- MarkTechPost2026-11-05 08:02