智能体中的权重记忆与检索之争
亚马逊的一篇新论文比较了把用户事实存入模型权重与从文本中检索两种方式。普通微调回忆用户事实的准确率为 36.9%,而在线自蒸馏达到 59.9%,超过了 MemOS 式检索 47.8% 等检索基线。作者建议用文本库保存近期或缺失的事实、把稳定的用户知识移入权重,验证后重生成的路由还可再提升 6.2 个百分点。这很重要,因为它为个人 AI 智能体的长期记忆提供了一套切实可行的混合方案。
报道来源
- Elvis Saravia2026-11-06 14:43
亚马逊的一篇新论文比较了把用户事实存入模型权重与从文本中检索两种方式。普通微调回忆用户事实的准确率为 36.9%,而在线自蒸馏达到 59.9%,超过了 MemOS 式检索 47.8% 等检索基线。作者建议用文本库保存近期或缺失的事实、把稳定的用户知识移入权重,验证后重生成的路由还可再提升 6.2 个百分点。这很重要,因为它为个人 AI 智能体的长期记忆提供了一套切实可行的混合方案。