AI 资讯AI NEWS RADAR
值得关注X 动态2026-10-29 19:30

NVIDIA 论文:AgentBaton 通过一次从强模型到廉价模型的切换降低智能体成本

NVIDIA 研究人员的 AgentBaton 针对长程智能体任务的成本问题,让强模型负责早期步骤、随后一次性切换到廉价模型完成剩余工作,并从任务进展模式中学习何时切换。每次检查在单张 H100 上的中位延迟为 338 毫秒,在 11 对模型和两个基准上的测试中,它平均削减 API 成本 65.9%,同时基本保持准确率,部分模型对甚至比单独使用强模型高出 8.8 分。这很重要,因为一次时机恰当的切换远比搭建完整路由系统容易接入现有智能体循环,却能拿到大部分节省。

报道来源
最新动态