Qwen4-27B 架构推断
LinuxDo 网友依据 PR #22 还原了 Qwen4-27B 的推测架构：严格 dense 的 27B 模型，hidden size 5120，保留 Qwen3.8-27B 的 3:1 混合骨架（GDN+全注意力），但第 4 层换成 micro-block 级 QSA 稀疏注意力；作者提醒真实 QSA 权重并未提供，仅验证了配置与算子契约。为什么重要：这是对阿里未发布旗舰架构的有据社区拆解，研究人员和工程师可据此追踪 Qwen 的技术路线。
报道来源
- LinuxDo2026-10-24 06:05