AI模型可以被证明能够隐藏任意能力
牛津大学与Contramont Research的研究人员发表了一篇已被NeurIPS 2026接收的论文，证明第二个经过加密的神经网络可以藏在模型权重中，只有输入包含秘密触发条件时才会运行。经过500步微调后，加密模型的准确率仍停留在接近随机的50.9%，而密码锁定基线达到92.8%，权重噪声也没有暴露隐藏能力。为什么重要：它给基于测试的开放权重模型审计划出了一条根本界限——审计什么都没发现，并不证明某种能力不存在；不过作者也强调，完整构造尚未真正装进一个预训练模型。
报道来源
- Hacker News (AI)2026-10-26 23:06