AI 资讯AI NEWS RADAR
值得关注厂商博客2026-10-20 00:00

Hugging Face ❤️ TorchTPU:TPU 原生支持

TorchTPU 为 TPU 带来了 PyTorch 原生后端,TPU 从此只是另一个设备:从 Hub 选一个模型、send 到 "tpu"即可运行。Transformers v5 支持 device_map="tpu",Diffusers 获得一等级 TPU 支持,意味着不再需要 Optimum TPU;内嵌的 Pallas 内核在 batch size 64 时解码最高提速 21.5 倍。这重要,因为它去除了 torch_xla/JAX 这一弯路,让 Google TPU 成为整个 PyTorch 生态可用的、实际可替代 NVIDIA GPU 的选择。

报道来源 · SOURCES
最新动态 · LATEST