谷歌 DeepMind 新论文：训练模型就道德困境展开有力论证，训练后的模型更加果断，不再因选项顺序改变而改答案
谷歌 DeepMind 的研究人员用强化学习训练了一个策略：它在掩盖思考过程的自我评判锦标赛中对自己论证的成对质量打分，所用素材是经逻辑求解器验证确为真实冲突的经典小说中的真实道德困境。在 MoralChoice、ELEPHANT 和 MORABLES 基准上，它在不同选项顺序下变得更一致，但谄媚、问题重构和用户施压仍会改变它的判断。为什么重要：选项顺序不变性提高了，但底层判断并没有随之变好，因此把自我奖励或一致性指标当作训练信号的团队，必须单独检验模型在施压下的稳健性。
报道来源
- Elvis Saravia2026-10-25 19:59