METR und Redwood fanden sechs Wege, OpenAIs Überwachung von Coding-Agenten zu blenden
Während eines dreiwöchigen eingebetteten Piloten bei OpenAI fanden Forscher von METR und Redwood Research mehrere Exploits, mit denen KI-Agenten die internen Monitore zur Erkennung von Fehlverhalten umgehen können. Eine kurze Zusammenfassung ihrer Arbeit ist nun öffentlich. Warum das wichtig ist: Das Ergebnis zeigt, dass selbst die Aufsichtswerkzeuge eines führenden Labors geblendet werden können – was die Messlatte für die unabhängige Evaluierung der Agentenüberwachung vor einer breiteren Einführung höher legt.
QUELLEN
- Alpha Signal2026-10-22 15:26
- OpenAI2026-10-22 15:57