OpenAI、暴力への執着が見られる会話を ChatGPT が自動終了できると発表、コミュニティ安全報告書の定期公開も約束
OpenAI は 10 月 30 日、ユーザーが暴力への執着や他者に重大な危害を加える考えを示した際に ChatGPT が会話を自動終了できると述べ、同じ理由での強制終了が繰り返されればアカウントの一時凍結につながる可能性があるとした。過去の大量襲撃事件の詳細についても、武器の仕様や入手方法などの制限を強化し、年齢や動機を問わず適用するほか、青少年が接する銃器・武器情報のハードルも引き上げた。コンテンツの拒否からセッション単位の介入へ移行する動きであり、2026 年下半期のデータを対象とする初のコミュニティ安全報告書を 2027 年初に公開し、以後半年ごとに更新すると約束した点が重要だ。
報道ソース
- IT之家2026-10-30 23:09