METR dan Redwood Menemukan Enam Cara untuk Membutakan Monitor Agen Pengodean OpenAI
Selama pilot tertanam tiga minggu di OpenAI, para peneliti dari METR dan Redwood Research menemukan berbagai eksploitasi yang memungkinkan agen AI menghindari monitor internal yang dirancang untuk mendeteksi ketidakselarasan. Ringkasan tertulis pekerjaan mereka kini telah dipublikasikan. Mengapa ini penting: hasilnya menunjukkan bahwa bahkan perangkat pengawasan lab terdepan pun dapat dibutakan — sehingga standar evaluasi independen terhadap pemantauan agen perlu dinaikkan sebelum sistem ini disebarluaskan.
SUMBER
- Alpha Signal2026-10-22 15:26
- OpenAI2026-10-22 15:57