当基础设施从“搭建能力”变成“按小时结算的选择题”
Hatched by Kevin Di
Aug 04, 2026
1 min read
2 views
86%
你真正买的,究竟是算力,还是灵活性?
如果一块顶级 GPU 的租赁价格从每小时 8 美元跌到 2.85 美元,为什么很多团队反而更难做决策了?表面上看,这像是好消息,算力更便宜了,实验门槛更低了,创业者终于可以“多跑几次”。但真正的变化不是便宜,而是算力的用途被重新分层了。
过去,买 GPU 像修一条私路,前期贵,但你拥有持续可用的基础设施。现在,租 GPU 更像打车,随时可叫,但每一次调用都要回答一个问题:这次到底值不值?而当基础设施、模型训练、推理和微调都被按小时计费时,企业不再只是在购买硬件,而是在购买一种组织形态。
这正是 OpenStack 和 Kubernetes 之间的深层关系,与 H100 价格变化之间意外的共同点。它们都在提示同一件事:技术平台的价值,不在于“能不能做”,而在于“什么规模、什么阶段、什么目标下,做这件事最划算”。一旦这个问题被重新定义,整个产业的边界也会跟着变化。
从“造云”到“用云”,平台竞争的核心变了
OpenStack 代表的是一种思路:把计算、网络、存储、身份认证等基础能力抽象成云基础设施,让组织可以像经营自己的私有云一样管理资源。它关心的是资源池如何被稳定地切分、隔离、分配和治理。这是一种偏基础设施层的世界观,重点是让机器更像机器资源,而不是某个具体应用的附属品。
Kubernetes 代表的是另一种思路:不先问你有多少台机器,而先问你要运行什么容器化应用,应用如何自动部署、扩缩容、容错和滚动更新。它关心的是应用生命周期如何被控制。换句话说,OpenStack 更像在建“地基和管网”,Kubernetes 更像在建“可自动运行的城市交通系统”。
这两者的差异并不只是技术栈不同,而是抽象层级不同。一个面向“资源的拥有和治理”,一个面向“工作负载的执行和编排”。当企业从传统虚拟机时代走向容器和 AI 时代时,决定胜负的,往往不再是你是否拥有基础设施,而是你是否能把基础设施压缩成最适合业务节奏的操作单元。
真正的技术跃迁,不是把更多机器放进数据中心,而是把更多决策从人手里移交给系统。
这种迁移逻辑,在 GPU 市场上表现得非常明显。曾经,训练一个基础模型意味着你得先证明自己值得拥有一整个集群,像是先买一座工厂再考虑生产什么。如今,微调和推理占据了主导,模型开发越来越像租用流水线:按需启动、快速实验、随时停机。算力不再是“固定资产”,而越来越像“可变成本”。
GPU 泡沫并非破灭,而是从“造发动机”转向“修出租车站”
很多人把 H100 价格下跌理解成需求消失,但更准确的说法是:需求迁移了。从零开始训练一个大模型,需要巨大的集群和长周期投入,这要求你先有技术、数据、资金和叙事,最后才谈产品。而微调则不同,它更像在现成模型的底座上做定制,既便宜,又快,更接近真实业务。
这会带来一个残酷的事实:大多数团队不再需要十几个节点甚至更多的 H100 集群来证明自己。对大部分场景来说,1 个节点,或者少量节点,已经足够支持微调和推理。于是,过去为“未来可能成为基础模型公司”的幻想所驱动的大集群需求迅速缩水,转而集中到少数真正有能力做前沿训练的团队。
这和 Kubernetes 的普及逻辑很像。Kubernetes 并没有消灭服务器,而是消灭了“为了管理服务器而管理服务器”的必要性。同样,微调和推理并没有消灭 GPU 的价值,而是消灭了“为了训练而训练”的冲动。硬件仍然重要,但它的重要性从“战略护城河”降级为“效率杠杆”。
这种转变可以用一个简单的类比理解:
- OpenStack 时代,你像在建一个发电厂,目标是稳定供电。
- Kubernetes 时代,你像在建一个智能电网,目标是让电力自动流向真正需要的地方。
- GPU 价格重构时代,你像在经营共享充电宝网络,关键不再是你有多少电,而是你能否把电送到最需要的人手里。
因此,H100 价格下降并不一定意味着“GPU 不值钱了”,而是意味着只有在少数高价值、强差异化的工作负载上,它仍然值钱。当推理代码和微调代码可以即插即用,当主流模型架构已经高度标准化,硬件的稀缺性就不再自动转化为商业壁垒。真正稀缺的,变成了数据、分发、场景和迭代速度。
统一这两个世界的,不是云,也不是 AI,而是“编排”
如果把 OpenStack 和 Kubernetes 放在一条线上看,你会发现它们都在解决一个相同的问题:如何让复杂系统变得可组合、可调度、可恢复。OpenStack 编排的是基础设施资源,Kubernetes 编排的是容器化工作负载,而 AI 基础设施正在编排另一种东西,模型能力本身。
这就是今天最容易被低估的变化。过去企业关心的是“我有多少服务器”,后来变成“我有多少容器”,现在越来越变成“我能在多短时间内把一个模型能力嵌入业务流程”。这意味着,真正的价值栈正在从“资源层”上移到“能力层”。
你可以把这理解为三层进化:
- 拥有资源,比如服务器、GPU、存储。
- 调度资源,比如虚拟化、容器、自动扩缩容。
- 调度能力,比如模型推理、微调、工作流自动化、业务插件化。
前两层解决的是供给问题,第三层解决的是组织问题。因为模型一旦成为通用能力,竞争焦点就不再是“有没有一个模型”,而是“这个模型在你的业务中能否被快速、低成本、稳定地调用”。这也是为什么越来越多小团队不再执着于从头训练,而是转向微调。不是因为他们没有野心,而是因为编排能力比从零构建更接近现实商业。
不是所有技术都应该被“拥有”,很多技术更适合被“编排”。
这句话对基础设施尤其重要。OpenStack 适合那些需要强控制和私有化资源治理的场景,Kubernetes 适合那些希望快速迭代和弹性扩展的场景。而在 AI 领域,基础模型训练像前者,推理和微调更像后者。一个组织如果不分辨自己到底处于哪一层,很容易拿错工具,花冤枉钱,甚至误判自己的战略位置。
真正的分水岭,不是“大模型公司”与“非大模型公司”
今天很多讨论都在问一个过于粗糙的问题:谁会成为基础模型公司,谁会被淘汰?这个问题并不完全错,但它忽略了更关键的分界线:谁在卖通用能力,谁在卖场景化结果。
通用能力的市场会越来越集中。因为当大玩家已经把通用模型训练到一个很高的基线,新进入者要么在架构上做出重大突破,要么拥有独特数据,否则很难证明从零训练的合理性。与此同时,场景化结果的市场会越来越分散。因为每个行业、每个流程、每个组织的知识结构都不同,微调和推理的机会会在“最后一公里”爆发。
这就像交通行业中,高速公路和城市街道是两种生意。高速公路最适合规模化、标准化、长距离运输,城市街道则决定最后一公里是否顺畅。基础模型训练像高速公路,成本高,门槛高,回报集中;微调和推理像城市街道,碎片化,但直接影响用户体验和商业落地。
一旦理解这一点,你就会明白为什么“GPU 价格下降”并不简单是供需波动,而是AI 产业从资本密集型叙事,逐渐转向运营密集型叙事。以前拼的是谁能筹到钱、囤到卡、堆起更大的集群。现在拼的是谁能把模型用起来,谁能把推理成本压下去,谁能在一个节点内解决更多问题,谁能更快地把现成能力塞进产品。
这也是 OpenStack 与 Kubernetes 关系给我们的另一个启示。很多基础设施技术一开始都被理解为“替代旧系统”的革命,但最终真正改变行业的,往往不是替代,而是重新划分适用边界。OpenStack 没有让私有云消失,Kubernetes 也没有让虚拟化消失。它们让不同层级的复杂性各归其位。同样,H100 也不会因为价格下跌而失去价值,它会被重新分配到最需要它的那一层。
Key Takeaways
-
先判断自己处于哪一层。 如果你做的是基础设施治理,思维接近 OpenStack。如果你做的是应用运行和自动化,思维接近 Kubernetes。如果你做的是模型能力落地,重点是推理和微调的编排。
-
不要把“能训练”误当成“值得训练”。 从零训练基础模型的门槛在上升,尤其对没有独特数据和架构突破的团队。多数团队更应该考虑微调、检索增强、蒸馏和推理优化。
-
把 GPU 当作可变成本,而不是神圣资产。 评估每次训练或推理任务的边际收益,问自己:这次调用是否真的比等待、压缩、复用更划算。
-
围绕编排设计组织,而不是围绕硬件设计组织。 真正能持续产生价值的,不是拥有更多卡,而是能把模型、数据、工作流和权限编排成一个低摩擦系统。
-
把注意力从“通用模型竞争”转向“场景闭环竞争”。 真正难复制的优势,越来越来自数据、分发、集成深度和迭代速度,而不是单纯的训练规模。
结语:从拥有算力,到管理选择
基础设施技术的终极命运,往往不是被淘汰,而是被改写。OpenStack 让我们看到,云不是一台机器,而是一种资源治理方式。Kubernetes 让我们看到,平台不是一组服务器,而是一种应用运行方式。H100 市场的变化则进一步说明,AI 时代真正稀缺的,不一定是算力本身,而是把算力用在最对的位置上的判断力。
所以,未来最有竞争力的公司,未必是拥有最多 GPU 的公司,而是最懂得什么时候该训练,什么时候该微调,什么时候该推理,什么时候该放弃的人。换句话说,下一代赢家不是“算力拥有者”,而是选择编排者。
当基础设施不再以“有多少”为荣,而以“多久能变成结果”为荣时,真正的战略能力也随之改变。你不再是在买机器,你是在购买一种把不确定性变成确定性的方式。而这,才是云、容器和 AI 共同指向的未来。
Sources
Hatch New Ideas with Glasp AI 🐣
Glasp AI allows you to hatch new ideas based on your curated content. Let's curate and create with Glasp AI :)
Start Hatching 🐣