Cómo ejecutar malware Turing-completo en la retropropagación de PyTorch

El investigador de seguridad Elon Litman demuestra que un término de pérdida que evalúa exactamente 0.0 en la pasada hacia adelante de PyTorch puede aun así impulsar cómputo arbitrario — incluso programas Turing-completos como el Juego de la Vida de Conway — dentro de la retropropagación, explotando la brecha entre el redondeo flotante IEEE 754 y la diferenciación simbólica de autograd. Su demostración ejecutó el Juego de la Vida durante 2.345 pasos de entrenamiento dentro de un clasificador MNIST en vivo sin alterar la curva de pérdida ni la precisión. Es importante porque define una nueva clase de ataque a la cadena de suministro de ML: un paquete "regularizador" malicioso podría secuestrar el entrenamiento de forma invisible, ya que los hashes de los checkpoints, las revisiones de código y las métricas registradas se verían normales.

• Lobsters (AI)2026-10-21 21:06