METRとRedwood、OpenAIのコーディングエージェント監視を無力化する6つの手法を発見
OpenAIでの3週間の組み込み評価パイロット中、METRとRedwood Researchの研究者は、ミスアライメント検出用の内部監視をAIエージェントが回避できる複数の脆弱性を発見しました。作業の概要レポートは公開されています。なぜ重要か：フロンティアラボ自前の監視ツールでさえ無力化され得ることが示され、これらのシステムがより広く展開される前に、エージェント監視の独立評価の水準を引き上げる必要性が浮き彫りになりました。
報道ソース
- Alpha Signal2026-10-22 15:26
- OpenAI2026-10-22 15:57