为小语言模型定制词表，可在实际应用中把推理成本降低 77%

Dharma-AI 的 VocabX 方法围绕每个 token 的成本而非词频，为小语言模型重建分词器词表，直击领域专用 SLM 沿用通用词表造成的浪费。在一个基于 Qwen3-4B 的葡萄牙语作文批改生产系统中，它把实测推理成本降低了 77%（平均回复从 350 个 token 降到 101 个），质量基准分还从 0.703 升到 0.810；完整论文仍在评审中。这件事重要的原因是，词表是很少被动到的成本杠杆，如此量级的实证节省可能改变企业大规模部署专用小模型的方式。

• Hugging Face Blog2026-10-21 17:35