OpenAI menyebut ChatGPT dapat mengakhiri percakapan yang menunjukkan obsesi kekerasan secara otomatis, dan berjanji menerbitkan laporan keamanan komunitas berkala

OpenAI mengatakan pada 30 Oktober bahwa ChatGPT dapat mengakhiri percakapan secara otomatis ketika pengguna menunjukkan obsesi terhadap kekerasan atau pikiran untuk melukai orang lain secara serius, dan penghentian paksa berulang karena alasan itu dapat berujung pada pembekuan akun sementara. OpenAI juga memperketat batasan atas detail serangan massal masa lalu, seperti spesifikasi senjata dan cara memperolehnya, tanpa memandang usia atau motif, serta menetapkan ambang yang lebih ketat bagi remaja atas informasi senjata. Ini penting karena OpenAI beralih dari penolakan konten ke intervensi pada level sesi, dan berjanji menerbitkan Laporan Keamanan Komunitas pertama pada awal 2027, yang mencakup data paruh kedua 2026 dan diperbarui setiap enam bulan.

• IT之家2026-10-30 23:09