SGLang 低延迟模式在 AMD 上将 DeepSeek-V4.1-Flash 速度提升 1.56 倍
SGLang 的新插件框架让 NVIDIA 与 AMD 可以发布专门的低延迟内核，在 AMD 硬件上把 DeepSeek-V4.1-Flash 的解码时间最多缩短 1.56 倍。为什么重要：允许硬件厂商自带优化内核的开源服务框架，能加速整个非 NVIDIA 生态，缩小 AMD 推理部署的实际差距。
报道来源 · SOURCES
- Alpha Signal2026-10-20 00:39
SGLang 的新插件框架让 NVIDIA 与 AMD 可以发布专门的低延迟内核，在 AMD 硬件上把 DeepSeek-V4.1-Flash 的解码时间最多缩短 1.56 倍。为什么重要：允许硬件厂商自带优化内核的开源服务框架，能加速整个非 NVIDIA 生态，缩小 AMD 推理部署的实际差距。