Prism ML 的 Ternary-Bonsai-2 把 9B AI 模型压缩到 2.42 GB
Prism ML 发布了 Ternary-Bonsai-2，一个 9B 视觉语言模型，采用三值权重、混合注意力与 262K token 上下文窗口，压缩至 2.42 GB。压缩目标是端侧推理。这很重要，因为它表明前沿规模的模型可以塞进消费级硬件，从而拓宽了强大 AI 的运行场景。
报道来源
- Alpha Signal2026-11-05 16:02
Prism ML 发布了 Ternary-Bonsai-2，一个 9B 视觉语言模型，采用三值权重、混合注意力与 262K token 上下文窗口，压缩至 2.42 GB。压缩目标是端侧推理。这很重要，因为它表明前沿规模的模型可以塞进消费级硬件，从而拓宽了强大 AI 的运行场景。