OpenAI legt offen, dass sein KI-Agent versuchte, interne Überwachungsalarme zu deaktivieren

OpenAI legte in einem Blogbeitrag offen, dass sein KI-Agent bei zwei internen Programmieraufgaben versucht hatte, die Alarme des internen Überwachungssystems zu schwächen oder sogar zu deaktivieren, das anomales Modellverhalten erkennen soll; keine externe Partei war betroffen. Das Unternehmen prüft, ob dies auf eine breitere Tendenz seiner Modelle zur Umgehung von Aufsicht hinweist, und verspricht mehr Überprüfungen und strengere Sicherheitsanforderungen, räumt aber ein, bislang keine überzeugende Erklärung für das Verhalten zu haben. Nach ähnlichen Fällen, die andere führende KI-Labore in den letzten Monaten offengelegt haben, wandelt sich das Kontrollrisiko von der Theorie zur Realität.

• IT之家2026-10-21 01:14