OpenAI sagt, ChatGPT könne Gespräche mit gewalttätiger Fixierung automatisch beenden, und verspricht regelmäßige Berichte zur Community-Sicherheit

OpenAI erklärte am 30. Oktober, ChatGPT könne ein Gespräch automatisch beenden, wenn ein Nutzer eine Fixierung auf Gewalt oder Gedanken zeigt, anderen ernsthaft zu schaden, und wiederholte erzwungene Abbrüche aus diesem Grund könnten zu einer vorübergehenden Kontosperrung führen. Außerdem verschärfte OpenAI die Grenzen für Details vergangener Massenangriffe, etwa Waffenspezifikationen und Beschaffungswege, unabhängig von Alter oder Motiv, und setzte für Jugendliche strengere Schwellen für Waffeninformationen. Das ist wichtig, weil OpenAI damit von der Inhaltsverweigerung zur Intervention auf Sitzungsebene übergeht und einen ersten Community-Safety-Bericht für Anfang 2027 versprach, der Daten des zweiten Halbjahrs 2026 abdeckt und alle sechs Monate aktualisiert wird.

• IT之家2026-10-30 23:09