用查询感知的上下文压缩模型蒸馏相关性，突破 gold-chunk 监督的局限
Perplexity 介绍了如何不依赖每个查询的单一「gold chunk」来训练上下文感知嵌入模型：从查询感知的上下文压缩模型中蒸馏相关性信号，该模型对文档中每个 token 相对查询打分，再聚合成 chunk 级训练目标。得到的嵌入模型能同时检索答案 chunk 与支撑 chunk。为什么重要：这是一套实用配方，让检索保留文档上下文，而不是被粗暴分块剥离。
报道来源
- Perplexity2026-09-30 19:07