淘宝 MNN 团队开源 0.3B 手机模型，苹果 iPhone 18 Pro 离线跑出 350 token/s
淘宝 MNN 团队发布了 MNN-Pocket-0.3B 模型，面向手机应用的任务需求与资源预算，设计目标为解码吞吐超过 200 token/s、峰值内存低于 300MB。据称在 iPhone 18 Pro 上离线可跑出 350 token/s。这次发布表明，端侧小模型正变得能真正跑进日常手机应用，而不只是演示品。
报道来源
- IT之家2026-11-06 03:50
淘宝 MNN 团队发布了 MNN-Pocket-0.3B 模型，面向手机应用的任务需求与资源预算，设计目标为解码吞吐超过 200 token/s、峰值内存低于 300MB。据称在 iPhone 18 Pro 上离线可跑出 350 token/s。这次发布表明，端侧小模型正变得能真正跑进日常手机应用，而不只是演示品。