DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标实现大模型普惠

DeepSeek 宣布全面开源其内部推理框架 DeepInfer 及生产级 Token 编解码组件 deepseek-recipe。该框架支撑了 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务，支持分布式推理、推测解码、结构化输出，并兼容英伟达与华为昇腾平台；未来新模型的推理代码与优化也将持续在此更新。这之所以重要，是因为推理框架是决定大模型服务算力成本与能耗的“中间层”，开源它能让更多开发者和企业以更低成本构建高效推理服务，推动大模型普惠。

• 36氪 AI2026-10-20 08:38