Prime Intellect 的 Prime Mega MoE 让巨型 AI 模型训练快 55%
Prime Intellect 为 DeepSeek 仅支持前向的 Mega MoE 内核补上了反向传播,使 Qwen3 的训练单步时间最多缩短 55%。训练单步更快意味着构建超大模型的成本和时间直接下降,这类内核层面的改进因此会在开源模型工作中迅速扩散。
报道来源
- Alpha Signal2026-10-29 17:41
Prime Intellect 为 DeepSeek 仅支持前向的 Mega MoE 内核补上了反向传播,使 Qwen3 的训练单步时间最多缩短 55%。训练单步更快意味着构建超大模型的成本和时间直接下降,这类内核层面的改进因此会在开源模型工作中迅速扩散。