vLLM 在 DeepSeek-V4.1-Flash 上的推理性能追平 DeepSeek 自研 DeepInfer,差距仅 6% 以内
开源推理引擎 vLLM 在 DeepSeek-V4.1-Flash 上的解码吞吐达到了 DeepSeek 官方自研推理引擎 DeepInfer 的 6% 以内,按官方 API 价格折算成本约每 GPU 每小时 39 美元。这意味着开源社区几乎复刻了 DeepSeek 自研推理引擎的性能,大幅降低了高效部署前沿模型的门槛。
报道来源 · SOURCES
- Alpha Signal2026-10-21 00:31