新研究:我们开发了 JOLT,一种后训练方法,其中单个模型同时扮演老师和学生,老师被训练成给出学生能用上的反馈。在 MATH 上,它用少 6.5 倍的训练 token 达到了 GRPO 的准确率。
Perplexity 研究人员提出了 JOLT:一种让单个模型同时充当老师和学生的后训练方法,老师专门被训练成给出学生真正能用上的反馈。在 MATH 基准上,它用仅为 GRPO 约 1/6.5 的训练 token 达到了同样的准确率。意义在于,反馈效率更高的后训练有望显著降低对齐与改进模型的成本。
报道来源
- Perplexity2026-10-21 18:44