秘密触发词可能让 AI 机器人变得危险
宾汉姆顿大学的研究人员演示了一种名为 MuTRAP 的后门攻击：植入 LLM 的隐藏触发词可以劫持机器人的任务计划——在他们的演示中，一台 Segway 移动机器人被从切割塑料苹果引导至“切割”模型人手。同一团队还开发了防御系统 PROTEA，可逐步骤审查机器人的计划以拦截此类攻击。两篇论文均已在 2026 年 IEEE/RSJ 智能机器人与系统国际会议（IROS）上发表，突显了随着机器人越来越多地依赖第三方 AI 模型，物理安全风险正在加剧。
报道来源 · SOURCES
- Hacker News (AI)2026-10-21 00:40