得克萨斯大学论文发现,把小型记忆决策交给快速评分模型,可让 AI 记忆系统构建长对话记忆的速度提升 6.6 倍
得克萨斯大学的一篇论文指出,许多 AI 记忆系统会让语言模型逐一做出小型选择,例如该链接什么、何时停止,而为每个选择生成文本成本很高。把这些小型决策交给快速评分模型后,系统构建长对话记忆的速度提升了 6.6 倍。这很重要,因为记忆是长程智能体的瓶颈,更便宜的决策有望让持久记忆在大规模场景下变得可行。
报道来源
- Rohan Paul2026-10-25 14:27
得克萨斯大学的一篇论文指出,许多 AI 记忆系统会让语言模型逐一做出小型选择,例如该链接什么、何时停止,而为每个选择生成文本成本很高。把这些小型决策交给快速评分模型后,系统构建长对话记忆的速度提升了 6.6 倍。这很重要,因为记忆是长程智能体的瓶颈,更便宜的决策有望让持久记忆在大规模场景下变得可行。