Anthropic 借助 Claude，用 Rust 重写服务 API，CPU 用量降四至五成

Anthropic 的 Messages API 最初是跑在单一 GCP 区域的 Python 单体服务，随着流量增长，瓶颈不是 GPU 而是 CPU。团队决定整体迁移到 Rust，尽管起步时会议室里一个 Rust 开发者都没有：工程师负责系统设计和验证，Claude 负责代码实现，并通过对照新旧系统输出来验证迁移结果。迁移后 CPU 用量降低约 40% 至 50%，首个 token 的响应时间缩短约 10% 至 20%。这件事值得关注，因为它是一次有实测数据的生产级 AI 辅助重写，为大模型服务的扩容提供了可参照的案例。

• LinuxDo2026-10-29 06:24