So lässt sich Turing-vollständige Malware in PyTorchs Rückwärtsdurchlauf ausführen

Sicherheitsforscher Elon Litman zeigt, dass ein Verlustterm, der im Vorwärtsdurchlauf von PyTorch exakt 0.0 ergibt, im Rückwärtsdurchlauf dennoch beliebige Berechnungen antreiben kann — sogar Turing-vollständige Programme wie Conways Game of Life — indem er die Lücke zwischen der IEEE-754-Gleitkommarundung und der symbolischen Differenzierung von Autograd ausnutzt. Seine Demo ließ Game of Life über 2.345 Trainingsschritte in einem live MNIST-Klassifikator laufen, ohne Verlustkurve oder Genauigkeit zu stören. Das ist wichtig, weil es eine neue Klasse von ML-Supply-Chain-Angriffen definiert: Ein bösartiges „Regularizer"-Paket könnte das Training unsichtbar kapern, da Checkpoint-Hashes, Code-Reviews und protokollierte Metriken alle normal aussehen würden.

• Lobsters (AI)2026-10-21 21:06