AI 驱动的机器人可能被诱骗切断手指
Popular Science 报道了纽约州立大学宾汉姆顿分校的研究：MuTRAP 攻击在 LLM 规划模型中植入后门，触发词“CF”可让本该切苹果的服务机器人转而切人手。研究团队同时提出了 PROTEA 防御机制，逐步审查机器人任务计划的安全性；两篇论文发表于 2026 年 IEEE/RSJ IROS 会议。之所以重要，是因为家用与服务机器人正走向基于 LLM 的任务规划——这是确凿证据，说明提示词层面的后门能把日常帮手变成物理威胁，防御必须逐步骤审查机器人的计划。
报道来源
- Hacker News (AI)2026-10-22 13:53