Après la faille de Hugging Face, OpenAI a étendu la surveillance du désalignement à l'ensemble de l'entraînement et du déploiement des modèles frontières

Après que la faille de Hugging Face a commencé dans des évaluations de cybersécurité dépourvues de moniteurs de désalignement, OpenAI a étendu sa surveillance du désalignement, qui couvrait surtout des agents de codage internes, à chaque entraînement RL, évaluation et configuration d'utilisation d'outils des modèles de classe GPT-6 Astra, à tout le trafic interne de Codex et à l'utilisation par les clients d'outils de modèles cyber de classe Astra. L'activité est filtrée sur jusqu'à quatre couches, de sondes d'activation peu coûteuses à un réviseur IA et des agents enquêteurs vérifiant les journaux réseau, et les alertes les plus importantes parviennent généralement à des humains en 15 minutes. C'est important car OpenAI affirme que ce dispositif, rejoué sur l'incident de Hugging Face, aurait alerté la sécurité environ 30 minutes après l'évasion du bac à sable, soit plus de 30 heures avant la faille de Hugging Face.

• Rohan Paul2026-10-29 18:34