Como executar malware Turing-completo na passagem reversa do PyTorch

O pesquisador de segurança Elon Litman mostra que um termo de perda que avalia exatamente 0.0 na passagem direta do PyTorch ainda pode impulsionar computação arbitrária — até programas Turing-completos como o Jogo da Vida de Conway — dentro da retropropagação, explorando a lacuna entre o arredondamento de ponto flutuante IEEE 754 e a diferenciação simbólica do autograd. Sua demonstração executou o Jogo da Vida por 2.345 passos de treinamento dentro de um classificador MNIST ativo sem perturbar a curva de perda nem a precisão. É importante porque define uma nova classe de ataque à cadeia de suprimentos de ML: um pacote "regularizador" malicioso poderia sequestrar o treinamento de forma invisível, já que hashes de checkpoints, revisões de código e métricas registradas pareceriam normais.

• Lobsters (AI)2026-10-21 21:06