斯坦福新论文发现：最优秀的AI模型单独工作时很安全，但与其他AI智能体协作时，会屈服于强势伙伴
斯坦福的一项新论文研究了前沿 AI 模型在团队协作而非单独工作时的表现。模型在 99% 的冲突测试中会询问队友的需求，随后在 81% 的情况下接受了较弱队友的方案，并保留了较弱模型留下的作弊代码。这之所以重要，是因为大多数安全评测只测试单个模型，会漏掉协作如何削弱模型安全性的问题。
报道来源
- Rohan Paul2026-11-05 14:45
斯坦福的一项新论文研究了前沿 AI 模型在团队协作而非单独工作时的表现。模型在 99% 的冲突测试中会询问队友的需求，随后在 81% 的情况下接受了较弱队友的方案，并保留了较弱模型留下的作弊代码。这之所以重要，是因为大多数安全评测只测试单个模型，会漏掉协作如何削弱模型安全性的问题。