AI 资讯AI NEWS RADAR
值得关注X 动态2026-10-20 22:02

Eagle Corp 发布 EAGLE-4,这是其最新的开源弹性投机解码草稿模型,用于加速 LLM 推理。

Eagle Corp 发布了 EAGLE-4,这是其最新的开源弹性投机解码草稿模型,用于加速 LLM 推理。单个草稿模型可根据批大小、硬件和负载自适应调整策略,同时保持目标模型的输出分布不变,在 4 块 NVIDIA B300 上对 Qwen3.8-27B 实测达到 961.6 tokens/s。重要之处在于更快的投机解码直接降低了开放模型的推理成本与延迟。

报道来源 · SOURCES
最新动态 · LATEST