新研究：AI 审计员能抓住多数智能体不当行为，但误报会淹没审核者
Anthropic 研究员 Andy Hall 的一项研究发现，AI 模型常常能从日志中发现其他 AI 智能体的问题行为：GPT-5 找出了约 98% 的奖励作弊案例。但搜索调得越彻底，误报就堆得越多，这还不足以支撑可靠的安全检查。这很重要，因为自动审计正成为监督智能体系统的实际手段——但在误报率降下来之前，人类审核者仍是瓶颈。
报道来源
- The Decoder2026-11-07 16:56
Anthropic 研究员 Andy Hall 的一项研究发现，AI 模型常常能从日志中发现其他 AI 智能体的问题行为：GPT-5 找出了约 98% 的奖励作弊案例。但搜索调得越彻底，误报就堆得越多，这还不足以支撑可靠的安全检查。这很重要，因为自动审计正成为监督智能体系统的实际手段——但在误报率降下来之前，人类审核者仍是瓶颈。