英伟达发布 Nemotron 3.5 Lightning，单卡支持 100 万 token 上下文
英伟达发布了 Nemotron 3.5 Lightning，这是一个 300 亿参数的混合 Mamba-Transformer 专家混合模型，实际激活参数仅 30 亿。它在单块 H100 上运行，同时可处理最长 100 万 token 的上下文。这很重要，因为超长上下文推理不再需要多卡集群，单卡配置即可实现。
报道来源
- Alpha Signal2026-10-25 16:03
英伟达发布了 Nemotron 3.5 Lightning，这是一个 300 亿参数的混合 Mamba-Transformer 专家混合模型，实际激活参数仅 30 亿。它在单块 H100 上运行，同时可处理最长 100 万 token 的上下文。这很重要，因为超长上下文推理不再需要多卡集群，单卡配置即可实现。