DeepSeek V4.1 Flash 在 GB300 NVL72 上的速度过去一个月内每智能体提升高达 1.5 倍(AA-AgentPerf 数据)
Artificial Analysis 报告称,DeepSeek V4.1 Flash 在英伟达 GB300 NVL72 上单智能体速度已达每秒 848 个 token,高于一个月前的 596,增幅 1.42 倍,单 GPU 吞吐量提升约 1.6 倍。提升来自新版 vLLM、新内核、FlashInfer 自动调优、更广的 CUDA 图覆盖、调优的推测解码,以及在同一 GPU 上同时运行 prefill 与 decode。这很重要,因为推理栈调优正在现有硬件上带来大幅提速,显著降低了大规模运行智能体编程工作负载的成本。
报道来源
- Artificial Analysis2026-11-06 20:33