与 NVIDIA 合作的新后训练研究：自蒸馏 + 强化学习（JOLT），在 MATH 上以 6.5 倍更少的训练 token 达到 GRPO 的水平
Perplexity 分享了与 NVIDIA 合作的新后训练研究：自蒸馏 + 强化学习，称为 JOLT。同一个模型同时扮演老师和学生；JOLT 还训练老师给出学生能跟上的反馈，JOLT+ 则额外给学生基于结果的奖励。在 MATH 基准上，JOLT 以 6.5 倍更少的训练 token 达到了 GRPO 的水平，而 JOLT+ 在数学、编程、终端任务和工具使用上全面超过 GRPO。为什么重要：后训练效率的大幅提升直接降低了把模型变聪明的成本。
报道来源
- Aravind Srinivas2026-10-21 21:04