Meta 的 Andromeda 在单台服务器上每秒检索 10 亿条广告
Meta 与 NVIDIA 把广告检索融合进单个 GPU 内核,在一台服务器上达到每秒 10 亿条以上的检索量,同时保持排序级别的质量。这一结果表明推荐系统的 serving 基础设施可以被大幅压缩,对任何大规模推荐系统都是成本杠杆。
报道来源
- Alpha Signal2026-11-02 17:05
Meta 与 NVIDIA 把广告检索融合进单个 GPU 内核,在一台服务器上达到每秒 10 亿条以上的检索量,同时保持排序级别的质量。这一结果表明推荐系统的 serving 基础设施可以被大幅压缩,对任何大规模推荐系统都是成本杠杆。