Cara Menjalankan Malware Turing-Complete dalam Backward Pass PyTorch

Peneliti keamanan Elon Litman menunjukkan bahwa suku kerugian (loss) yang bernilai tepat 0.0 pada forward pass PyTorch masih bisa menjalankan komputasi arbitrer — bahkan program Turing-complete seperti Conway's Game of Life — di dalam backward pass, dengan mengeksploitasi kesenjangan antara pembulatan floating-point IEEE 754 dan diferensiasi simbolik autograd. Demonya menjalankan Game of Life selama 2.345 langkah pelatihan di dalam pengklasifikasi MNIST yang aktif tanpa mengganggu kurva loss maupun akurasi. Ini penting karena mendefinisikan kelas serangan baru terhadap rantai pasok ML: paket "regularizer" berbahaya bisa membajak pelatihan secara tak terlihat, sebab hash checkpoint, tinjauan kode, dan metrik yang tercatat semuanya tampak normal.

• Lobsters (AI)2026-10-21 21:06