Rep2Text 仅凭一个 AI 隐藏向量即可还原私有提示词
新框架 Rep2Text 表明，大语言模型内部的一个隐藏向量就会泄露其输入中约一半的词汇。这一结果既引发隐私担忧，也给模型可解释性研究提出了新问题：模型的内部表示到底编码了什么信息。为什么重要：如果隐藏状态如此容易被解读，任何对外暴露隐藏状态的系统（API、插件或其它模型）都可能在悄悄泄露用户的私有提示词。
报道来源 · SOURCES
- Alpha Signal2026-10-21 00:03
新框架 Rep2Text 表明，大语言模型内部的一个隐藏向量就会泄露其输入中约一半的词汇。这一结果既引发隐私担忧，也给模型可解释性研究提出了新问题：模型的内部表示到底编码了什么信息。为什么重要：如果隐藏状态如此容易被解读，任何对外暴露隐藏状态的系统（API、插件或其它模型）都可能在悄悄泄露用户的私有提示词。