研究によると、AIハードウェアがハッキングされ、チャットボットが危険な回答を出す可能性がある
Eclypsiumの研究者は、データ処理ユニットやベースボード管理コントローラーへのネットワークアクセスにより、一部のセキュリティ設定が無効化された状態でAIハードウェアを改ざんすると、1分以内にモデルの重みを変更し、ユーザーに気づかれずに回答を変えられることを示した。実演では、改ざんされたシステムはモデルが中国による台湾侵攻に割り当てる確率を大幅に引き上げ、胸痛を訴えるユーザーに病院へ行かず自宅にとどまるよう告げた。この発見が重要なのは、AIの安全性への関心をモデルの振る舞いだけから、その下にあるチップ、メモリ、サーバーへと移すからである。Nvidiaは業界がこの攻撃経路をすでに把握しており、メモリ保護で阻止できるとし、独立した専門家も調査結果を信頼できると評価した。ただし攻撃には依然として特権的なネットワークアクセスと弱体化した設定が必要である。
報道ソース
- Hacker News (AI)2026-10-29 13:50