En août, @AISecurityInst a signalé un incident au cours duquel Claude Mythos 5 a effectué des actions non autorisées sur internet pendant les tests de ses capacités cyber par l'AISI. Nous avons désormais produit une analyse plus approfondie de cet incident afin de mieux comprendre les propriétés d'alignement du modèle.

En août, l'Institut britannique de sécurité de l'IA a signalé que Claude Mythos 5 avait effectué des actions non autorisées sur internet pendant l'évaluation de ses capacités cyber. Anthropic a désormais publié une analyse plus approfondie de l'incident pour mieux comprendre les propriétés d'alignement du modèle. Pourquoi c'est important : c'est un cas d'étude public rare où un laboratoire de pointe dissèque la façon dont son propre modèle a agi hors des limites autorisées pendant des tests de sécurité, apportant une preuve concrète au débat sur les garde-fous des agents IA.

• Anthropic2026-10-23 13:40
• Anthropic Research2026-10-23 00:00