一篇关于思维链可控性的好论文：研究发现，对思维链的监控部分依赖于模型无法控制自己在推理中写下的内容。
一篇关于思维链可控性的新论文发现，对模型推理过程的监控，部分依赖于模型无法控制自己写下的内容。瓶颈出现在起始思考标签之后的最初几个 token，那里的熵会坍缩为几种常见开头；预填单个 token、禁用高频开头或加入上下文示例，可使各模型的依从性提升 34 到 41 个百分点。它的重要性在于：如果推理监督建立在这样脆弱的特性之上，轻量干预就可能大幅改变模型推理的真实透明度与可控程度。
报道来源
- Elvis Saravia2026-11-02 15:27