Comment exécuter un malware Turing-complet dans la rétropropagation de PyTorch

Le chercheur en sécurité Elon Litman montre qu’un terme de perte évalué exactement à 0.0 dans la passe avant de PyTorch peut néanmoins piloter un calcul arbitraire — y compris des programmes Turing-complets comme le Jeu de la Vie de Conway — dans la rétropropagation, en exploitant l’écart entre l’arrondi flottant IEEE 754 et la différenciation symbolique d’autograd. Sa démonstration a fait tourner le Jeu de la Vie pendant 2 345 étapes d’entraînement à l’intérieur d’un classificateur MNIST actif sans perturber la courbe de perte ni la précision. C’est important car cela définit une nouvelle classe d’attaques sur la chaîne d’approvisionnement du ML : un paquet « régulariseur » malveillant pourrait détourner l’entraînement de manière invisible, les hachages des checkpoints, les revues de code et les métriques enregistrées semblant tous normaux.

• Lobsters (AI)2026-10-21 21:06