OpenAI заявила, что ChatGPT может автоматически завершать беседы с признаками насильственной одержимости, и пообещала регулярные отчёты о безопасности сообщества

OpenAI заявила 30 октября, что ChatGPT может автоматически завершать беседу, когда пользователь проявляет одержимость насилием или мысли о серьёзном вреде другим, а повторные принудительные завершения по этой причине могут привести к временной блокировке аккаунта. Компания также ужесточила ограничения на детали прошлых массовых нападений, такие как характеристики оружия и способы его получения, независимо от возраста и мотива, и установила более строгие пороги для подростков в отношении информации об оружии. Это важно, потому что OpenAI переходит от отказа в контенте к вмешательству на уровне сессии, и пообещала первый Отчёт о безопасности сообщества в начале 2027 года, охватывающий данные второй половины 2026 года и обновляемый каждые шесть месяцев.

• IT之家2026-10-30 23:09