谷歌与香港大学的新论文认为：当 AI 智能体操作电脑时，其自身的“任务完成”说法绝不能算作证明

谷歌与香港大学的新论文提出 VeriCUA——一种用于电脑操作智能体的验证器：它先探索应用以建立需求清单，再通过屏幕或代码检查（例如读取文件）逐项核对已保存的文件与应用数据，直至每一项都确认，绝不轻信智能体自身的成功宣称。在 ScienceBoard 上，它的误报率为 5.4%，而视觉语言模型评判为 24.8%、生成式脚本验证器为 21.7%；在三个在线环境中，它驳回了约 80% 的虚假完成报告。之所以重要，是因为智能体评估、训练数据与强化学习奖励的好坏取决于验证质量，而只会宣称成功的智能体会悄悄污染这三者。

• Rohan Paul2026-11-03 02:37