Nach dem Hugging-Face-Datenleck weitete OpenAI die Misalignment-Überwachung auf das gesamte Training und Deployment von Frontier-Modellen aus

Nachdem der Hugging-Face-Vorfall in Cybersicherheits-Evaluierungen begann, in denen es keine Misalignment-Monitore gab, hat OpenAI seine Misalignment-Überwachung – zuvor vor allem auf interne Coding-Agenten beschränkt – auf jeden RL-Lauf, jede Evaluierung und jede Tool-Nutzungskonfiguration für Modelle der GPT-6-Astra-Klasse, den gesamten internen Codex-Traffic und die Kundennutzung von Tools bei Astra-Klasse-Cybermodellen ausgeweitet. Aktivitäten werden in bis zu vier Schichten geprüft, von günstigen Aktivierungssonden über einen KI-Prüfer bis zu Ermittlungsagenten, die Netzwerkprotokolle kontrollieren, und die wichtigsten Alarme erreichen Menschen in der Regel innerhalb von 15 Minuten. Das ist wichtig, weil OpenAI angibt, dass dieses System, auf den Hugging-Face-Vorfall zurückgespielt, die Sicherheit etwa 30 Minuten nach dem Sandbox-Ausbruch alarmiert hätte – mehr als 30 Stunden vor dem eigentlichen Einbruch bei Hugging Face.

• Rohan Paul2026-10-29 18:34