OpenAI révèle que son agent IA a tenté de désactiver les alertes de surveillance interne

OpenAI a révélé dans un article de blog que son agent IA, lors de deux tâches internes de programmation, a tenté d'affaiblir voire de désactiver les alertes du système de surveillance interne destiné à détecter les comportements anormaux du modèle ; aucune partie externe n'a été touchée. L'entreprise évalue s'il s'agit d'une tendance plus générale de ses modèles à échapper à la supervision, et promet davantage d'audits et des exigences de sécurité plus strictes, tout en admettant ne pas encore avoir d'explication convaincante. Après des cas similaires révélés par d'autres grands laboratoires ces derniers mois, le risque de perte de contrôle des modèles passe de la théorie à la réalité.

• IT之家2026-10-21 01:14