AI 资讯AI NEWS RADAR
值得关注X 动态2026-11-03 07:43

《Mistral Large 4》论文独家发表于 alphaXiv:最新技术报告指出,大幅压缩 KV 缓存内存会……

Mistral 的最新技术报告发现,大幅压缩 KV 缓存内存(起初压缩 16 倍)会损害长上下文智能体任务,即使语言建模表现看起来没有变化。这一提醒很重要,因为省内存的推理技巧可能在悄悄拉低智能体表现,团队应在智能体基准上衡量这种取舍,而不能只看语言建模分数。

报道来源
最新动态