OpenAI affirme que ChatGPT peut mettre fin automatiquement aux conversations montrant une obsession violente, et promet des rapports réguliers sur la sécurité de la communauté

OpenAI a déclaré le 30 octobre que ChatGPT peut mettre fin automatiquement à une conversation quand un utilisateur montre une obsession pour la violence ou des pensées de blesser gravement autrui, et que des interruptions forcées répétées pour ce motif peuvent entraîner un gel temporaire du compte. OpenAI a aussi durci les limites sur les détails d'attaques de masse passées, comme les caractéristiques des armes et la manière de se les procurer, sans distinction d'âge ni de motif, et fixé des seuils plus stricts pour les adolescents sur les informations relatives aux armes. C'est notable parce qu'OpenAI passe du refus de contenu à l'intervention au niveau de la session, et a promis un premier Rapport sur la sécurité de la communauté début 2027, couvrant les données du second semestre 2026 et mis à jour tous les six mois.

• IT之家2026-10-30 23:09