Generated Computers 推出 Locals，Apple Silicon 上 AI 智能体吞吐量提升至 3 倍
Generated Computers 发布了 Locals，这是一个面向 Apple Silicon 的开源（Apache 2.0）推理服务器，专为并发编码智能体而非聊天场景设计。它能批量处理并行请求、缓存重复提示词前缀，并把工具调用的语法检查移到 GPU 上；在维护者公布的测试中，运行 Qwen3.5-4B、8 路并发时吞吐量约为 mlx-lm 的 3 倍。这对在 Mac 上运行多智能体工作负载的开发者意义重大，不过这些数据来自维护者，仍有待独立复现验证。
报道来源
- Alpha Signal2026-11-05 00:16