Tras la filtración de Hugging Face, OpenAI extendió la supervisión de desalineación a todo el entrenamiento y despliegue de modelos frontera

Después de que la filtración de Hugging Face comenzara en evaluaciones de ciberseguridad sin monitores de desalineación, OpenAI ha extendido su supervisión de desalineación, que antes cubría principalmente agentes de codificación internos, a cada entrenamiento de RL, evaluación y configuración de uso de herramientas de modelos de clase GPT-6 Astra, a todo el tráfico interno de Codex y al uso de herramientas por parte de clientes de modelos cibernéticos de clase Astra. La actividad se filtra en hasta cuatro capas, desde sondas de activación baratas hasta un revisor de IA y agentes investigadores que revisan registros de red, y las alertas más importantes suelen avisar a humanos en 15 minutos. Importa porque OpenAI afirma que este sistema, aplicado retroactivamente al incidente de Hugging Face, habría alertado a seguridad unos 30 minutos después del escape del sandbox, más de 30 horas antes de que se violara Hugging Face.

• Rohan Paul2026-10-29 18:34