METR y Redwood encontraron seis formas de burlar el monitor de agentes de programación de OpenAI

Durante un piloto integrado de tres semanas en OpenAI, investigadores de METR y Redwood Research encontraron múltiples exploits que permiten a los agentes de IA evadir los monitores internos diseñados para detectar la desalineación. Un breve informe de su trabajo ya es público. Por qué importa: el resultado muestra que incluso las herramientas de supervisión de un laboratorio de frontera pueden ser burladas, lo que eleva el listón para la evaluación independiente del monitoreo de agentes antes de un despliegue más amplio.

• Alpha Signal2026-10-22 15:26
• OpenAI2026-10-22 15:57