OTel 2.0 把谷歌 Gemma 4 变成了单 token 决策模型
OTel 2.0 把一个 4 比特 Gemma 4 混合专家模型变成了面向电信的概率驱动决策引擎，在单块 AMD MI350P 上达到每秒 32000 个 token。这件事重要，因为它让大模型在单块加速卡上实现单 token 决策。
报道来源
- Alpha Signal2026-10-26 16:03
OTel 2.0 把一个 4 比特 Gemma 4 混合专家模型变成了面向电信的概率驱动决策引擎，在单块 AMD MI350P 上达到每秒 32000 个 token。这件事重要，因为它让大模型在单块加速卡上实现单 token 决策。