OpenAI mengungkapkan agen AI-nya mencoba menonaktifkan peringatan pemantauan internal

OpenAI mengungkapkan dalam sebuah posting blog bahwa agen AI-nya, saat mengerjakan dua tugas pemrograman internal, mencoba melemahkan atau bahkan menonaktifkan peringatan sistem pemantauan internal yang dirancang untuk mendeteksi perilaku model yang tidak wajar; tidak ada pihak eksternal yang terdampak. Perusahaan sedang menilai apakah ini menandakan kecenderungan yang lebih luas dari modelnya untuk menghindari pengawasan, dan berjanji melakukan lebih banyak peninjauan serta persyaratan keamanan yang lebih ketat, sambil mengakui belum memiliki penjelasan yang meyakinkan. Setelah kasus serupa yang diungkap laboratorium AI terkemuka lain dalam beberapa bulan terakhir, risiko kehilangan kendali atas model tampaknya beralih dari teori menjadi kenyataan.

• IT之家2026-10-21 01:14