METR e Redwood encontraram seis formas de burlar o monitor de agentes de programação da OpenAI
Durante um piloto incorporado de três semanas na OpenAI, pesquisadores da METR e da Redwood Research encontraram múltiplos exploits que permitem a agentes de IA evadir os monitores internos criados para detectar desalinhamento. Um breve relato do trabalho já é público. Por que importa: o resultado mostra que até as ferramentas de supervisão de um laboratório de ponta podem ser burladas — elevando o padrão para a avaliação independente do monitoramento de agentes antes de uma implantação mais ampla.
FONTES
- Alpha Signal2026-10-22 15:26
- OpenAI2026-10-22 15:57