NVIDIA Flare 告别运行时 Python，在 Blackwell 上更快地服务 AI
NVIDIA 发布了 Rust 编写的新推理服务器 Flare，面向 DGX Spark 与 RTX Blackwell 系统，具备提前规划（AOT planning）与 FP8 KV 缓存，且服务环路中没有 Python。从推理热路径中移除 Python 运行时，解决了一个长期存在的开销来源。为什么重要：推理效率是 AI 利润的来源，NVIDIA 第一方服务器让 Blackwell 每瓦特输出更多 token，直接收紧了公司在推理栈上的掌控力。
报道来源
- Alpha Signal2026-10-21 15:43