开源权重模型的私有化拉力：自托管隐性成本被低估
开源不等于免费
权重下载不要钱，但跑起来要钱。一张 H100 按需约每小时 2 到 3 美元，常年开机单卡每月就要近 2000 美元；多卡大模型远不止此。更关键的是，原始 GPU 费用通常只占真实成本的 30% 到 40%，其余是网络、存储、冗余、监控与电力。把"免费模型"当成零成本，是最常见的误算，也是很多自建项目超支的起点。
规模决定账本
OECD 2026 年《AI 开放性收益》报告的建模结论很直白：在百亿 token 级别的小工作量下，私有托管难以收回成本；到 50 亿 token 月量级，回本周期才压缩到约一个月。换言之，闲置的 GPU 是经济性杀手，只有用量持续拉满，自托管才在原始算力上胜过 API。模型大小、并发目标与电价任一变动，都可能把平衡点大幅移动。
真正贵的是人
比硬件更隐蔽的是人力。维持一个可靠的自托管模型，业内估算至少需要 1.5 到 2 名全职工程师，仅薪资每年就可能达数十万美元。这还没算安全、评测、升级与值班。一个开源模型，可以 quietly 一年吃掉数十万美元的人力，而一单 API 调用把这些运维负担都转嫁给了提供方，你付溢价恰恰是为了不必养那支团队。
什么情况下值得
自托管真正成立的场景有四个：数据依法不能出域、需要特定模型或可微调、延迟与吞吐可预测、希望对变更有完全控制权。若以上都不占，为"感觉更可控"而自建，往往只是在用真金白银购买心理安全感。控制欲和真实控制需求，是两回事。
更稳的路径
多数团队的最优解是混合：低用量、波动大的工作负载走 API，把高频且稳定的部分再迁到自托管。成本跟随用量而非意识形态变动。采购前先写清月度请求量与延迟要求，对比两套方案的真实总拥有成本，再决定边界，并每季度重算一次。
给决策者的核查清单
决定自托管前，建议写清四件事：月度请求量与峰值并发、可接受的最低延迟、数据是否依法不能出域、以及内部能否承担长期运维的人力。拿两套方案在同一天的公开价格下做真实总拥有成本对比，而不是只比"每百万 token"的单价。若四项里只占一两项，API 多半更省心；四项全占，自托管才真正站得住。每半年重算一次，比一次性拍板更稳。尤其要警惕的是，很多自托管项目超支的起点，恰恰是把"开源免费"误读成了"零成本"，漏算了人力与运维这条长尾。
