PyTorch のバックワードパスでチューリング完全なマルウェアを実行する方法
セキュリティ研究者の Elon Litman は、PyTorch のフォワードパスで正確に 0.0 と評価される損失項が、IEEE 754 浮動小数点の丸めと autograd の記号微分のギャップを悪用し、バックワードパス内で任意の計算——コンウェイの「ライフゲーム」のようなチューリング完全なプログラムでさえ——駆動できることを示した。デモでは、実際に学習中の MNIST 分類器の中にライフゲームを組み込み、2345 ステップの学習を損失曲線や精度に影響なく実行した。これが重要なのは、ML サプライチェーン攻撃の新たなクラスを定義したからだ：悪意のある「正則化器」パッケージが学習を不可視に乗っ取る可能性があり、チェックポイントのハッシュ、コードレビュー、記録された指標はすべて正常に見えてしまう。
報道ソース
- Lobsters (AI)2026-10-21 21:06