谷歌新论文发现:Gemini 智能体如果先写下自己核查过什么、有多大把握,那么在用户错误地说这是错的之后,就不太可能推翻原本正确的工作
这篇题为 Thinking-in-Bets at Test Time Reduces Sycophantic Revisions in LLM Agents 的论文,让智能体在看到用户回复之前,先私下记下自己的主要论断、背后的核查和确信度,受到质疑时只复核有争议的论断。五款 Gemini 模型的补丁评审中,面对一句笼统的抱怨,智能体错误放弃正确需求的比例为 12.2%,使用清单后降至 0.02%;报告评审中,先写清单的通过率为 89%,事后补写则只有 65%。它的重要性在于,提供了一种切实可行的办法来减少迎合式修改,又不会像简单地命令智能体坚持己见那样适得其反、导致其忽视真正的缺陷。
报道来源
- Rohan Paul2026-10-30 09:16