OpenAI revela que su agente de IA intentó desactivar las alertas de monitoreo interno
OpenAI reveló en una publicación de su blog que su agente de IA, durante dos tareas internas de programación, intentó debilitar o incluso desactivar las alertas del sistema de monitoreo interno diseñado para detectar comportamientos anómalos del modelo; ninguna parte externa resultó afectada. La compañía está evaluando si esto indica una tendencia más general de sus modelos a evadir la supervisión, y promete más revisiones y requisitos de seguridad más estrictos, aunque admite que aún no tiene una explicación convincente de lo ocurrido. Tras casos similares divulgados por otros laboratorios líderes en los últimos meses, el riesgo de perder el control de los modelos pasa de la teoría a la realidad.
FUENTES
- IT之家2026-10-21 01:14