CMU 将 AI 训练的四个阶段合并为一个共享损失函数
CMU 牵头的团队将预训练、有监督微调和强化学习合并为一个最大似然目标,使静态文本和强化学习 rollout 可以在同一个训练器中混合。它的重要性在于,单一训练方案有望简化大模型的构建与调优方式,而不必把多个阶段串联起来、各自维护一套流程。
报道来源
- Alpha Signal2026-10-29 17:42
CMU 牵头的团队将预训练、有监督微调和强化学习合并为一个最大似然目标,使静态文本和强化学习 rollout 可以在同一个训练器中混合。它的重要性在于,单一训练方案有望简化大模型的构建与调优方式,而不必把多个阶段串联起来、各自维护一套流程。