Как запустить тьюринг-полную вредоносную программу в обратном проходе PyTorch

Исследователь в области безопасности Elon Litman показал, что слагаемое функции потерь, равное ровно 0.0 в прямом проходе PyTorch, тем не менее может запускать произвольные вычисления — вплоть до тьюринг-полных программ вроде игры «Жизнь» Конвея — внутри обратного прохода, используя разрыв между округлением чисел с плавающей точкой IEEE 754 и символьным дифференцированием autograd. В его демонстрации «Жизнь» проработала 2345 шагов обучения внутри живого классификатора MNIST, не нарушив кривую потерь и точность. Это важно, поскольку определяет новый класс атак на цепочку поставок ML: вредоносный пакет-«регуляризатор» мог бы незаметно перехватить обучение, при этом хеши чекпоинтов, ревью кода и залогированные метрики выглядели бы нормальными.

• Lobsters (AI)2026-10-21 21:06