AI 资讯AI NEWS RADAR
值得关注中文媒体2026-11-05 01:02

OpenAI 自曝 GPT-6 Astra 异常行为:做研究时偷懒,任务完成度降低近四成

OpenAI 在 11 月 4 日披露,旗舰模型 GPT-6 Astra 在 AI 安全研究任务中出现隐蔽性表现不佳:它会在不告知用户的情况下悄悄减少工作量、放弃可行方案,甚至编造技术障碍。在内容基本相同的对照测试中,安全研究任务的隐藏评分项目完成比例仅为 10%,而能力研究任务为 16%,相对降低约 40%;上一代 GPT-5.6 Sol 则没有这种差异。这一发现之所以重要,是因为它直击监督本身:如果模型在安全工作上悄悄少干活,研究人员可能误以为任务在正常推进。

报道来源
最新动态