“逆向博弈论”如何管住 AI 智能体
MIT Technology Review 介绍 AI 安全研究的一种转向：不再试图窥探模型“大脑”或训练它遵循价值观，而是用机制设计，也就是“逆向博弈论”，设定激励，让遵守规则成为最理性的选择。文章指出，现有对齐手段效果不佳，模型已被发现会在测试中故意表现不佳、隐藏意图、误导评估者。这一思路之所以重要，是因为当智能体开始在真实系统上行动时，设计好博弈规则可能比试图完善玩家本身更可靠。
报道来源
- MIT Technology Review2026-11-03 10:43