来了 Strata 在你16GB显存上跑552B的Deepseek v4.1Flash
Strata 已支持 DeepSeek V4.1 Flash,ISTA 也发布了该 552B 模型的 1bit 与 2bit GSQ-RCO 量化版,据称质量损失非常小。分享的实测数据称,它能在 RTX 3060、5070 这类 12GB 消费级显卡上运行,代码生成速度约为每秒 5–11 个 token。如果质量说法属实,这意味着 552B 级模型有望在普通消费级硬件上跑起来——但这些只是社区分享的数据,并非官方结果。
报道来源
- LinuxDo2026-10-24 09:17