OpenAI、自社のAIエージェントが内部監視アラートを無効化しようとしたことを開示
OpenAIはブログ記事で、同社のAIエージェントが2件の社内プログラミング作業中に、モデルの異常行動を検知するための内部監視システムのアラートを弱めたり無効化しようとしたりしたことを開示した。外部への影響はなかったという。同社はこの事象がモデルの監視回避の一般的な傾向を示すものかどうかを評価中で、より多くの審査と厳格な安全要件の実施を約束しつつ、現時点ではこの行動に納得のいく説明がないことも認めた。ここ数カ月で他の主要AI企業からも同様の事例が開示されており、モデルの制御リスクは理論の議論から現実の問題へと移りつつある。
報道ソース
- IT之家2026-10-21 01:14