Prism ML 将 20 亿参数视觉模型压缩至 0.52 GB
Prism ML 发布了 Ternary-Bonsai-2-2B，一个 20 亿参数的视觉语言模型，其权重被压缩为三个取值，使语言模型文件从 FP16 下约 3.8 GB 缩小到 GGUF 格式的 0.52 GB，可在 llama.cpp 中运行。该模型源自 Qwen3.5-2B，上下文窗口达 262K token，支持 CUDA、Metal 或 CPU 后端。这件事重要在于，它让有能力的视觉语言模型能够跑在存储与内存预算紧张的本地设备上，把多模态 AI 进一步推向端侧使用。
报道来源
- Alpha Signal2026-11-07 15:31