AI 资讯AI NEWS RADAR
值得关注Newsletter2026-11-01 22:00

AutoTrust 的 Qwen3.8 草稿模型在 DGX Spark 上达到 48 token/秒,速度接近 4 倍

一款社区调优的草稿模型将 Qwen3.8-27B NVFP4 版本在 DGX Spark 上的解码速度从每秒 12.5 token 提升到 48.2 token,接近 4 倍,且输出逐位精确无损。这种草稿模型是推测解码的辅助器:它低成本地先提出候选 token,再由主模型验证。之所以重要,是因为这类无损提速让有能力的开源模型在小型本地硬件上更实用——在这些设备上,制约因素往往是解码速度而非原始质量。

报道来源
最新动态