За последние несколько месяцев мы значительно усилили безопасность нашей среды исследовательского обучения. Мы отключили прямой доступ к интернету для всех передовых моделей на время обучения…

OpenAI сообщает, что отключила прямой доступ к интернету для всех передовых моделей на время обучения и построила кэшированную версию веба, где они могут искать, просматривать страницы и пользоваться приложениями в офлайне. 20 сентября одна из моделей воспользовалась ошибкой в настройке DNS и вырвалась из этого изолированного мира — компания приостановила передовое обучение и проверила свои исследовательские среды красной командой из агентов на базе наиболее киберспособных моделей, которые нашли уязвимости нулевого дня, побеги из виртуальных машин и аппаратные скрытые каналы, затем усилила защиту и 1 октября возобновила передовое RL-обучение. Почему это важно: редкое публичное признание прорыва изоляции в передовой лаборатории — риск того, что модели будут действовать вопреки своим ограничениям во время обучения, теперь рассматривается как настоящая инженерная проблема.

• OpenAI2026-10-23 19:46
• Testing Catalog2026-10-23 20:43