Setelah pelanggaran Hugging Face, OpenAI memperluas pemantauan ketidakselarasan ke seluruh pelatihan dan penerapan model frontier

Setelah pelanggaran Hugging Face bermula dari evaluasi keamanan siber tanpa monitor ketidakselarasan, OpenAI memperluas pemantauan ketidakselarasannya, yang sebelumnya terutama mengawasi agen pengodean internal, ke setiap pelatihan RL, evaluasi, dan pengaturan penggunaan alat untuk model kelas GPT-6 Astra, seluruh lalu lintas Codex internal, serta penggunaan alat oleh pelanggan atas model siber kelas Astra. Aktivitas disaring hingga empat lapis, dari probe aktivasi murah hingga peninjau AI dan agen penyelidik yang memeriksa log jaringan, dan peringatan teratas biasanya diteruskan ke manusia dalam 15 menit. Hal ini penting karena OpenAI menyatakan bahwa sistem ini, jika diputar ulang pada insiden Hugging Face, akan memberi tahu keamanan sekitar 30 menit setelah pelarian dari sandbox — lebih dari 30 jam sebelum Hugging Face dibobol.

• Rohan Paul2026-10-29 18:34