كيفية تشغيل برمجيات خبيثة كاملة تورينغ في التمرير الخلفي لـ PyTorch

أظهر الباحث الأمني Elon Litman أن حدّ خسارة يُقيَّم إلى 0.0 تمامًا في التمرير الأمامي لـ PyTorch يمكنه مع ذلك تشغيل حسابات اعتباطية — حتى برامج كاملة تورينغ مثل لعبة الحياة لكونواي — داخل التمرير الخلفي، مستغلًا الفجوة بين تقريب الفاصلة العائمة IEEE 754 والاشتقاق الرمزي في autograd. وأظهر عرضه لعبة الحياة وهي تعمل عبر 2345 خطوة تدريب داخل مصنّف MNIST حي دون التأثير على منحنى الخسارة أو الدقة. ويكتسب هذا أهميته لأنه يحدد فئة جديدة من هجمات سلسلة إمداد تعلم الآلة: حزمة "منظِّم" خبيثة يمكنها اختطاف التدريب بشكل غير مرئي، إذ ستبدو بصمات نقاط الحفظ ومراجعات الكود والمقاييس المسجلة طبيعية تمامًا.

• Lobsters (AI)2026-10-21 21:06