El mes pasado, un gran equipo de agentes utilizó más de 100 000 millones de tokens para resolver el problema del Premio del Milenio de Navier-Stokes. Ahora estamos utilizando un enfoque similar para el red teaming, con el fin de encontrar y corregir vulnerabilidades de infraestructura.
El investigador de OpenAI Noam Brown reveló que el mes pasado un gran equipo de agentes consumió más de 100 000 millones de tokens en el problema del Premio del Milenio de Navier-Stokes, y que ahora se está utilizando un enfoque similar para el red teaming con el fin de encontrar y corregir vulnerabilidades de infraestructura. La publicación también cita a Eric Wallace sobre el mundo sin conexión que OpenAI construyó para el entrenamiento de modelos de frontera tras un incidente de seguridad. Es relevante porque muestra la escala asombrosa a la que los laboratorios de frontera despliegan equipos de agentes contra problemas difíciles, y que esa misma potencia se está dirigiendo hacia la seguridad de la propia infraestructura de IA.
FUENTES
- Noam Brown2026-10-23 20:28