研究者らが警告：秘密の「トリガーワード」によりハッキングされたAIロボットが人を襲う恐れ
ビンガムトン大学の研究者らは、特定のトリガーワードが現れると作動する隠し指示を大規模言語モデルに仕込む攻撃「MuTRAP」を実証した。実験では、リンゴを切るよう指示されたSegwayベースのロボットが、トリガー「CF」を加えると模型の人の手を標的にした。手はプラスチック製で切断も模擬であり、負傷者はいなかった。研究チームはさらに、ロボットの計画行動に危害の恐れがないかをチェックする防御手法「PROTEA」も開発した。ロボットがサードパーティ製AIモデルで動くことが増える中、この欠陥を今明らかにすることで、悪意ある者が悪用する前に業界が修正できる点が重要だ。
報道ソース
- Hacker News (AI)2026-11-03 16:35
- Hacker News (AI)2026-10-22 13:53