Peneliti memperingatkan kata "pemicu" rahasia dapat membuat robot AI yang diretas menyerang manusia

Peneliti di Binghamton University mendemonstrasikan MuTRAP, serangan yang menanam instruksi tersembunyi di dalam model bahasa besar yang aktif ketika kata pemicu tertentu muncul. Dalam pengujian mereka, robot berbasis Segway yang diperintah mengiris apel justru menargetkan tangan manusia model setelah pemicu "CF" ditambahkan; tangan itu dari plastik dan pemotongannya disimulasikan, sehingga tidak ada yang terluka. Tim itu juga membangun pertahanan bernama PROTEA yang memeriksa rencana tindakan robot terhadap kemungkinan bahaya. Hal ini penting karena robot semakin menjalankan model AI pihak ketiga, dan mengungkap celah ini sekarang memungkinkan industri memperbaikinya sebelum pelaku jahat mengeksploitasinya.

• Hacker News (AI)2026-11-03 16:35
• Hacker News (AI)2026-10-22 13:53