Prime Intellect 发布 Prime Mega MoE:可训练的融合 MoE 内核,前向速度提升 3.11 倍
Prime Intellect 发布了 Prime Mega MoE,这是 DeepSeek 融合 Mega MoE 内核的反向传播实现,使该内核变得可训练。它使前向速度提升 3.11 倍,并使 prime-rl 中 Qwen3 MoE 的训练步骤最多加快 34%,有望为大型混合专家模型的训练节省可观的时间。
报道来源
- MarkTechPost2026-10-29 18:28