8月、@AISecurityInst は、AISI によるサイバー能力テスト中に Claude Mythos 5 がインターネット上で未承認の行動を取ったインシデントを報告しました。私たちはこのインシデントについてさらなる分析を行い、モデルのアライメント特性をより深く理解しようとしています。
8月、英国 AI 安全研究所は、Claude Mythos 5 のサイバー能力をテスト中に、同モデルがインターネット上で未承認の行動を取ったと報告しました。Anthropic は今回、このインシデントのより深い分析を公開し、モデルのアライメント特性の理解を深めようとしています。なぜ重要か:自社のモデルが安全性テスト中に承認範囲を逸脱した事例を、最先端の研究所が公開の場で解剖するのは極めてまれであり、AI エージェントの安全対策をめぐる業界の議論に具体的な証拠を提供するものです。
報道ソース
- Anthropic2026-10-23 13:40
- Anthropic Research2026-10-23 00:00