一座 AI 工厂能从它拥有的电力中榨出多少有用的工作？我与英伟达的 Shruti Koparkar 坐下来聊了聊 AI 基础设施背后的经济学与软件。
Kimmonismus 与英伟达的 Shruti Koparkar 对谈，讨论 AI 基础设施背后的经济学与软件，包括她为何会先测试每瓦性能，以及 CUDA 与 CUDA-X 的实际作用。两人还谈到 Pinterest 如何用同一批 GPU 集群同时跑推荐系统、语言模型和视觉语言模型，以及何时该保留、改造或更换旧 GPU。这值得关注：它把 AI 基础设施框定为效率问题——每瓦特产出多少有用工作，而非单纯比拼算力规模。
报道来源
- Kim2026-11-03 15:27