После взлома Hugging Face OpenAI расширила мониторинг рассогласования на всё обучение и развёртывание передовых моделей

После того как взлом Hugging Face начался с оценок кибербезопасности, где не было мониторов рассогласования, OpenAI расширила мониторинг рассогласования, ранее охватывавший в основном внутренних агентов-кодеров, на каждый RL-запуск, оценку и конфигурацию использования инструментов для моделей класса GPT-6 Astra, весь внутренний трафик Codex и клиентское использование инструментов кибермоделей класса Astra. Активность проверяется на четырёх уровнях — от дешёвых активационных зондов до ИИ-рецензента и агентов-расследователей, проверяющих сетевые журналы, а важнейшие оповещения обычно доходят до людей в течение 15 минут. Это важно, поскольку OpenAI утверждает, что эта система, применённая задним числом к инциденту с Hugging Face, предупредила бы службу безопасности примерно через 30 минут после побега из песочницы — более чем за 30 часов до взлома Hugging Face.

• Rohan Paul2026-10-29 18:34