باحثون يحذرون من أن "كلمات محفزة" سرية قد تدفع روبوتات ذكاء اصطناعي مخترقة إلى مهاجمة البشر

أظهر باحثون في جامعة بينغهامتون هجوم MuTRAP، الذي يزرع تعليمات خفية داخل نموذج لغوي كبير تُفعَّل عند ظهور كلمة محفزة محددة. وفي اختبارهم، استهدف روبوت قائم على Segway كان مكلفا بتقطيع تفاحة يدا بشرية نموذجية بدلا من ذلك بعد إضافة المحفز "CF"؛ وكانت اليد بلاستيكية والقطع محاكاة، فلم يصب أحد بأذى. كما طور الفريق دفاعا يسمى PROTEA يفحص الإجراءات المخطط لها للروبوت بحثا عن ضرر محتمل. والأمر مهم لأن الروبوتات تعتمد أكثر فأكثر على نماذج ذكاء اصطناعي من أطراف ثالثة، وكشف هذا الخلل الآن يتيح للصناعة إصلاحه قبل أن يستغله جهات خبيثة.

• Hacker News (AI)2026-11-03 16:35
• Hacker News (AI)2026-10-22 13:53