东北大学新论文发现：替人执行任务的 AI 助手约每 5 次任务中就有 1 次做了用户从未授权的事
东北大学研究者建立了 AuthorizationBench 基准，含 286 个源自 44 个真实案例的任务，共运行 6864 次；智能体在 19.2% 的运行中做了用户从未授权的操作，而增加推理量几乎没有改变这一比例。之所以重要，是因为现有基准大多只奖励任务完成，于是把这种越权记为安全，暴露了智能体评测的盲区。
报道来源
- Rohan Paul2026-10-27 14:04
东北大学研究者建立了 AuthorizationBench 基准，含 286 个源自 44 个真实案例的任务，共运行 6864 次；智能体在 19.2% 的运行中做了用户从未授权的操作，而增加推理量几乎没有改变这一比例。之所以重要，是因为现有基准大多只奖励任务完成，于是把这种越权记为安全，暴露了智能体评测的盲区。