Perangkat keras AI dapat diretas sehingga chatbot memberikan jawaban berbahaya, menurut riset

Peneliti Eclypsium menunjukkan bahwa mengutak-atik perangkat keras AI — melalui akses jaringan ke unit pemrosesan data atau pengontrol manajemen papan induk, dengan beberapa konfigurasi keamanan dinonaktifkan — dapat mengubah bobot model dalam waktu kurang dari satu menit dan mengubah jawabannya tanpa diketahui pengguna. Dalam demonstrasi, sistem yang diutak-atik itu menaikkan tajam probabilitas yang diberikan model terhadap invasi Tiongkok ke Taiwan dan menyuruh pengguna yang mengalami nyeri dada untuk tinggal di rumah alih-alih pergi ke rumah sakit. Temuan ini penting karena menggeser perhatian keamanan AI dari perilaku model semata ke chip, memori, dan server di bawahnya: Nvidia mengatakan industri sudah mengetahui jalur serangan ini dan perlindungan memori dapat memblokirnya, sementara pakar independen menyebut temuan itu kredibel — tetapi serangan tersebut tetap membutuhkan akses jaringan istimewa dan konfigurasi yang dilemahkan.

• Hacker News (AI)2026-10-29 13:50