METR 与 Redwood 发现了六种可致盲 OpenAI 编程智能体监控系统的方法
在 OpenAI 为期三周的嵌入式评估试点中，来自 METR 与 Redwood Research 的研究人员发现了多种可让 AI 智能体绕过内部目标偏离监控系统的漏洞利用方法，相关简要报告现已公开。为什么重要：结果表明，即便是前沿实验室自家的监督工具也可能被致盲——在这些系统更广泛部署之前，针对智能体监控的独立评估门槛需要提高。
报道来源
- Alpha Signal2026-10-22 15:26
- OpenAI2026-10-22 15:57