Thinking Machines 的 Inkling-Small 把 276B 多模态模型塞进一块 GPU
Thinking Machines Lab 的 276B 参数混合专家模型,在推理、编码和多模态任务上追平其 975B 旗舰模型,而每 token 仅激活 120 亿参数——小到能跑在一块 GPU 上。值得关注,因为这又是"前沿级能力"与"数据中心级部署"脱钩的一个证据。
报道来源
- Alpha Signal2026-10-21 22:00
Thinking Machines Lab 的 276B 参数混合专家模型,在推理、编码和多模态任务上追平其 975B 旗舰模型,而每 token 仅激活 120 亿参数——小到能跑在一块 GPU 上。值得关注,因为这又是"前沿级能力"与"数据中心级部署"脱钩的一个证据。