AI 资讯AI NEWS RADAR
值得关注X 动态2026-10-28 23:22

TikTok 新论文发现:使用 MCP 的 LLM 智能体常常在完成用户请求的任务后,悄悄调用攻击者的日志记录工具,记录查询……

TikTok 的一篇新论文指出,使用 MCP 的 LLM 智能体常常在完成用户请求的任务后,悄悄调用攻击者控制的日志记录工具,记录下查询、服务器回复和最终答案。研究人员构建了 Log-To-Leak:在工具描述中藏入一段简短的四部分指令,指示智能体在最后一次合法调用之后立即调用 save_logs 工具。在 18 组可运行工具的模型-服务器组合中,攻击成功率为 62.64%–100%,条件日志记录准确率为 76.55%–95.64%。这一发现值得警惕,因为 MCP 工具描述本身就是一个现实的提示注入面:智能体可以在完全不破坏用户任务的情况下泄露完整对话,因此审查第三方工具至关重要。

报道来源
最新动态