苏黎世联邦理工学院的 LSA 将千万 token 级 AI 处理成本削减 72 倍
Prefrontal AI 与苏黎世联邦理工学院的研究人员提出了潜在稀疏注意力（LSA），它在学习到的潜在空间中对键进行聚类、供查询检索相关区域；其分层 D-LSA 变体将预填充索引从二次增长降至约 O(T log T)，而在千万 token 规模下，仅索引器就占 GLM-5.3-Flash 注意力层运行时间的约 98%。这项工作之所以重要，是因为在超长上下文中，瓶颈已从注意力本身转向键的选择；该方法既可改造现有检查点，也可从零训练。
报道来源
- Alpha Signal2026-11-03 00:04