AI 模型能切得多小？
这篇文章认为，混合专家模型的稀疏性和 MLA、稀疏注意力等 KV 缓存压缩技术，使得在子层粒度上切分模型成为可能——一台只有 500MB 至 2GB 空闲内存的设备也能承载一小片专家网络。文章还梳理了 Petals、Aethir、Akash 和 Exo 等现有去中心化项目，认为它们可以构成这种算力集群的协议层。它的意义在于描绘了一条打破数据中心对推理垄断的愿景，但作者也强调，这目前只是提议中的架构，并非已经验证的部署。
报道来源
- Hacker News (AI)2026-11-02 00:15