英伟达Rubin Ultra缩水，SemiAnalysis：瓶颈在于每单位带宽成本，而非每单位容量成本

📋总体概括

SemiAnalysis分析称，英伟达将Rubin Ultra的HBM堆叠从12-Hi下调至8-Hi，并非单纯削减容量，而是因为AI推理瓶颈在每单位带宽成本而非每单位容量成本。8-Hi可减少约三分之一的DRAM裸片用量，缓解紧张的HBM供应，同时堆栈数量与接口不变，带宽得以维持甚至提升。这一调整标志着HBM竞争逻辑从堆容量转向优化带宽经济性，反映推理时代对持续搬运模型权重和KV Cache的带宽需求正在超越容量需求。