当前位置:首页 > 行业观察

GPU 算力又缺又剩:瓶颈不在芯片,在机房和电

xinhack2周前 (10-23)行业观察44

GPU 算力又缺又剩:瓶颈不在芯片,在机房和电 行业观察

先说结论:不是硅不够,是通电的机房不够

这周看了好几份算力报告,最扎心的一句话来自 IDC:AI 现在缺的是产能,不是需求。这话听起来反直觉——毕竟新闻里天天有人喊 GPU 堆成山卖不出去。但把数据摊开看,矛盾其实是真的:前沿集群的卡一卡难求,普通企业的卡大量闲置,根子不在芯片本身,而在“能通电、能散热、能连网”的机房 floor space。换句话说,卡造得出来,能喂饱它的电和楼造不出来,这才是这轮算力焦虑的真相。

两组打架的数据

一边是“过剩”的证据。Business Insider 报道亚马逊仓库里堆着装不上的 GPU,光“提前收货”一个月就要吃掉约 30 亿美元;批评者直接说这是英伟达的渠道压货。另一边是“短缺”的证据。Nebius 的 B200 现货价一周翻了三倍多,IREN 的 CEO 说 2026 年产能已经售罄,新合同价格比去年翻倍。两组数据都是真的,前提是那个约束变量是“能通电的机房”,而不是芯片本身。同一个 GPU,放在通电的机房里是金子,躺在没电的仓库里就是废铁。

为什么是电力和土建卡脖子

IDC 的追踪数据说得很直白:AI 就绪机房从选址到建成要五到七年,可加速器每 12 到 18 个月就换一代。钢筋水泥的回报周期和硅的迭代周期根本对不上。更硬的数字是电力——单美国就有接近 7GW 规划中的 2026 数据中心容量因为缺电被推迟或取消,到 2028 年预计有 45GW 的电力缺口;全球 AI 基础设施用电预计从 2025 年的 519 TWh 涨到 2030 年的 1308 TWh。卡可以连夜造,电网和机房扩建按年算,这是结构性错位。

对我们部署工程师意味着什么

落到实操上,我给团队的建议就两条。第一,别再只盯“有没有卡”,要问“这卡挂上去有没有电、有没有液冷、能不能进骨干网”。第二,利用率比拥有量更重要。Oracle 说自己 fleet 利用率 97.9%,但大量企业 GPU 长期低于 15%——同样的钱,会调度的人能跑出三倍的活。具体做法上,先把批处理、连续推理、缓存命中率做上去,再谈扩容;很多团队的瓶颈根本不是卡不够,是调度太烂,算力白白空转。

别被“GPU 过剩”带节奏

最后泼盆冷水:看到“仓库堆卡”就喊泡沫破裂,和看到“租金上涨”就喊永远涨,都是偷懒。真实情况是分层——前沿、有 committed 工作负载的稀缺;普通、单租户的过剩。这轮分化大概率会持续到 2027 年。做选型、做预算,按自己真实 workload 算账,别跟着情绪走,也别被任何一方的叙事牵着鼻子走。

小结

把这周的报告串起来看,算力故事的主角已经从“芯片”换成了“电和楼”。对做系统的人,这意味着未来三年的核心能力不是抢卡,而是把已通电的算力吃干榨净。谁能把利用率做上去,谁就在这一轮里真正省钱、真正有竞争力。

相关文章

AI 会取代哪些工作?一份冷静的任务级分析

AI 会取代哪些工作?一份冷静的任务级分析

AI 取代的不是职业而是任务。三条分界线:可预测任务最先接管、具身交互较慢、责任判断最难替代。每年做一次'任务盘点'胜过焦虑。…

中小企业落地 AI 的真实门槛:不是预算,而是流程

中小企业落地 AI 的真实门槛:不是预算,而是流程

很多中小企业老板以为上 AI 要先掏一笔预算,实际情况往往相反:几千块的订阅费不是问题,问题在于没人说得清要解决哪件事、数据散在谁手里、结果由谁负责。这篇从三个真实卡点讲起,给出一条从具体岗位切入的落…

AI 编程工具定价拐点:免费红利退潮,团队订阅成主战场

AI 编程工具定价拐点:免费红利退潮,团队订阅成主战场

过去两年 AI 编程工具靠免费额度快速拉新,进入 2026 年后 GitHub Copilot 与 Cursor 几乎同步把计费改成用量制,个人免费的红利正在退潮。本文梳理这场定价拐点的底层逻辑,以及…

AI 基建的债务杠杆:巨头借钱囤算力,资本纪律成下一关

AI 基建的债务杠杆:巨头借钱囤算力,资本纪律成下一关

2026 年 AI 算力竞赛最显眼的变化,是整条产业链集体涌进债市。摩根士丹利估算截至 9 月初本年度全球 AI 相关债务发行约 4500 亿美元,超过 2025 全年两倍。这篇讲清借钱囤算力背后的逻…

合成数据成新战场:训练数据见顶,模型开始吃自己

合成数据成新战场:训练数据见顶,模型开始吃自己

过去两年大模型训练靠喂互联网公开文本,但现在这条语料河快见底了。这篇梳理 2026 年合成数据从边缘方案变成主流训练来源的转变,说明为什么头部实验室把自己造数据当成战略资源,以及这对中小企业和开源社区…

购物智能体改写零售:沃尔玛 Agent Gateway

购物智能体改写零售:沃尔玛 Agent Gateway

沃尔玛 10 月 21 日推出面向 AI 智能体的 Agent Gateway,允许获准接入的代理代用户下单;同一周亚马逊却在拦截同类代购。这篇从两家相反的动作出发,讲清智能体电商正在如何改写零售的流…

AI 搜索重写获客逻辑:从被点击到被引用

AI 搜索重写获客逻辑:从被点击到被引用

当用户不再搜而改为问,品牌的获客逻辑也在变。这篇用 Chartbeat 2026 年三季度和多家机构的实测数据,说明传统搜索流量正在被 AI 答案分流,以及企业为什么开始把预算从 SEO 挪向 GEO…