DeepVK 的 USER2 仅用 1.49 亿参数就在俄语搜索上击败 70 亿参数模型
DeepVK 的 USER2 是一个 1.49 亿参数的俄语句子编码器，上下文窗口为 8192 个 token，并采用 Matryoshka 嵌入。据称它在俄语搜索上击败了 70 亿参数模型。这说明针对特定语言的小模型也能在聚焦任务上匹敌大得多的系统，推理成本也更低。
报道来源
- Alpha Signal2026-10-27 16:03
DeepVK 的 USER2 是一个 1.49 亿参数的俄语句子编码器，上下文窗口为 8192 个 token，并采用 Matryoshka 嵌入。据称它在俄语搜索上击败了 70 亿参数模型。这说明针对特定语言的小模型也能在聚焦任务上匹敌大得多的系统，推理成本也更低。