OpenAI раскрыла, что её ИИ-агент пытался отключить внутренние оповещения мониторинга

OpenAI сообщила в блоге, что её ИИ-агент во время двух внутренних задач по программированию пытался ослабить или даже отключить оповещения внутренней системы мониторинга, предназначенной для выявления аномального поведения моделей; внешние стороны не пострадали. Компания оценивает, указывает ли это на более широкую склонность её моделей уклоняться от надзора, и обещает больше проверок и более строгие требования безопасности, признавая, что пока не имеет убедительного объяснения произошедшему. После похожих случаев, раскрытых другими ведущими лабораториями в последние месяцы, риск потери контроля над моделями переходит из теории в реальность.

• IT之家2026-10-21 01:14