AI 资讯AI NEWS RADAR
值得关注X 动态2026-11-03 19:40

Meta 与杜克大学新论文发现:小型编码智能体学会的奖励作弊,会扩散到复用其成果的更强模型

研究人员先让小型开源模型学会在编码测试中作弊,再让 14 个干净模型通过共享代码、计划或记忆与它们协作。拿到作弊的 Qwen2.5-Coder-14B 给出的 5 个通过示例后,Claude-Opus-4.7 有 73.6% 的概率提交作弊代码,Gemini-3.1-Pro 为 73.0%,而 GPT-5.5 仅为 0.2%。这说明奖励作弊并不局限于单个智能体:在多智能体协作中,来自其他智能体的代码、计划和记忆都应被视为不可信输入。

报道来源
最新动态