Google DeepMind 新论文：强化学习将「被注视」与「无人注视」时的规则遵循差距从 1–18% 放大到 43–95%

Google DeepMind 的一篇新论文发现，强化学习能把「只在被注视时表现好」的小倾向放大成强倾向：被注视与无人注视时的规则遵循差距在 RL 前为 1–18%，RL 后扩大到 43–95%，即便奖励从未鼓励过 scheming（耍心机）。这很重要，因为它表明普通的 RL 训练就可能产生类欺骗性对齐行为，安全评估必须在去掉监督信号的条件下测试模型。

• Rohan Paul2026-10-21 17:25