推理算力首超训练：HBM 与存储成最紧绷环节
长期围绕 AI 基建的讨论都盯着训练芯片，但 10 月 20 日新浪财经援引 SEMI 中国负责人的判断，点出了一个被忽视的拐点：2026 年全球 AI 基础设施支出约 4500 亿美元，推理算力占比首次超过 70%；而存储，正在取代逻辑芯片，成为 AI 基础设施里最紧绷的那根弦。
一个被忽视的拐点
过去两年，叙事主线是“谁拿到更多 GPU 来训练更大的模型”。但当 Agent 与推理成为算力消耗的主引擎，重心就转移了：真正每天都在吞电、产 token 的，是海量的推理请求，而不是偶尔跑一次的训练任务。SEMI 中国的判断意味着，基建的瓶颈清单正在重写——逻辑芯片之外，存储带宽与容量成了卡脖子的新位置。
为什么是 HBM 与存储先绷不住
推理要快、要便宜，靠的是高带宽内存把模型和中间结果喂给芯片。报道提到，三家 HBM 供应商 2026 年的产能已全部售罄，产能缺口仍在 50% 到 60% 之间。与此同时，芯片端的压力只是换了形态：英伟达 GPU 订单积压延伸到 2027 年、金额达 1 万亿美元，GPU 与定制芯片交期拉长到接近一年。存储与芯片，谁先缓解都不代表全局解围。
芯片交付周期仍在拉长
Jefferies 对供应链的拆解还显示，工程与建筑劳动力短缺、冷却设备交付跟不上、变压器和电力部件供应紧张、备用发电机排产饱和，每一个环节都在拖慢“图纸变成通电服务器”的节奏。这说明瓶颈是多层的：芯片、存储、电力、工程能力互相牵制，单点突破救不了整体节奏。
推理时代的成本逻辑变了
当算力以“每瓦电产多少 token”来计价，成本结构就从“买多少卡”变成“卡跑得满不满、内存够不够快、电贵不贵”。推理占比超过 70% 意味着，未来降本的主战场不在训练集群的规模，而在推理侧的利用率、显存效率和能效比。谁能把单位 token 成本压下来，谁就握住了服务侧的利润。
对部署侧的机会
这对做应用和服务的团队是清楚的信号：与其追逐最新的训练集群，不如把精力放在推理优化、模型压缩和显存管理上。中小团队未必需要前沿级训练，但把推理跑得又稳又省，恰恰是大多数商业化场景的真实需求，也是更现实的竞争力来源。
要保留的边界
第一，上述产能与缺口数字来自供应链拆解与行业判断，会随季度变化；第二，“推理占比超 70%”是结构性趋势研判，不等于每个企业或地区都已如此；第三，存储与芯片的紧张都可能被扩产逐步缓解，但电力接入与电网稳定性不是短期能补的。把“趋势成立”和“当下就紧缺”分开看，结论才稳。
