梁圣大气！DeepSeek推理框架全开源，公布日均吞吐和毛利，真正的OpenAI来了
DeepSeek 开源了其内部使用的大规模云服务推理框架 DeepInfer，以及生产级 token 编解码组件 deepseek-recipe。DeepInfer 集成了高性能算子和深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出，可在英伟达与华为昇腾平台上运行。据 DeepSeek 公布，其单一集群服务吞吐为 155 万亿 tokens/天，整体收入按 API 价格折算为每卡每小时 38 美元（约合 253.81 元）。团队还同步在知乎发布了更详细的技术报告。
报道来源 · SOURCES