阿里把 Qwen2.5-VL 压缩到 1.5GB,让开发者能在本地运行视觉 AI
阿里 Qwen 团队发布了 Qwen2.5-VL-3B-Instruct 的 4-bit AWQ 检查点,30 亿量化参数的存储下限约 1.5GB,而 BF16 版本约 6GB。报告的四项基准分数比 BF16 模型低 1.2 至 2.6 分。它的意义在于,接近无损的压缩让文档、图表和视频理解能在配置普通的本地硬件上运行,而不必依赖大型云端 GPU。
报道来源
- Alpha Signal2026-10-26 22:03