API Claude meluncurkan beta Message Threads: percakapan panjang tak lagi mengirim ulang riwayat setiap giliran, balasan lebih cepat, harga sama

Anthropic meluncurkan Message Threads dalam beta publik untuk Messages API-nya: server menyimpan percakapan selama beberapa menit, sehingga permintaan berikutnya hanya memerlukan pesan baru dan ID balasan sebelumnya, bukan mengirim ulang seluruh riwayat. Angka resmi menunjukkan median waktu hingga keluaran pertama turun sekitar 35% untuk permintaan 500.000 hingga 1 juta token, dan median ukuran permintaan turun dari sekitar 800 KB menjadi 1,8 KB dalam percakapan panjang. Harga, konsumsi token, dan batas laju tidak berubah, dan thread berbeda dari prompt caching yang tetap memerlukan breakpoint-nya sendiri. Ini penting karena sesi agen yang panjang menjadi lebih cepat dan ringan tanpa mengubah biaya pengembang, menghilangkan hambatan praktis dalam percakapan ratusan permintaan.

• 宝玉 (Baoyu)2026-11-02 19:34