算力的下一场战争,不是更快,而是更像问题本身
Hatched by Kevin Di
Jun 24, 2026
1 min read
2 views
87%
先问一个反直觉的问题:为什么“更聪明”的芯片,未必更便宜?
我们习惯把算力进步理解成一条直线:晶体管更小,频率更高,性能更强,成本更低。可真正把芯片推向人工智能前线后,这条直线开始变形。很多看上去极其先进的架构,最后并没有换来更好的经济性,原因不在于它们不够快,而在于它们仍然把问题当成了“时间”来处理。
这正是今天最容易被忽视的分水岭:算力不再只是速度竞赛,而是计算形态与问题形态是否匹配的竞赛。有些芯片把更多晶体管花在控制、寄存器和通用性上,结果在 DRAM 往返里耗掉了大部分价值;另一些芯片则试图把计算直接摆进数据所在的位置,让数据移动得更少,让局部并行得更多,让片上资源尽可能贴近模型的真实结构。
如果说传统架构的核心命题是“如何让一颗芯片尽可能通用”,那么新一代架构的核心命题已经变成了“如何让芯片长得像问题本身”。
真正的架构革命,不是把一切都算得更快,而是把不必要的移动、同步和等待消灭掉。
从时间计算到空间计算:问题不是执行得慢,而是走错了路
传统冯诺依曼架构的本质,可以概括成一种时间计算。数据在内存里,计算单元去取,算完再写回,整个系统依靠统一的地址空间和时序控制,把世界组织成一次次顺序步骤。它优雅、通用、强健,也极其有效。现代软件文明几乎建立在这套思想之上。
但人工智能,尤其是大模型推理,正在把这个体系逼到边界。因为模型并不是经典意义上的“线性程序”,而更像一个巨大的计算图,里面有张量流动、稀疏激活、局部路径、条件分支、动态 shape,以及越来越多的容错空间。换句话说,AI 不是单纯在“做更多算术”,而是在不断组织一张复杂关系网。
这时,另一种视角开始显得更自然:空间计算。它不是放弃图灵完备,而是把计算分散到许多处理单元中,让数据尽量在局部完成传递和处理。你可以把它想象成两种城市规划方式:
- 时间计算像一座单中心大城市,所有人都要经过主干道和市中心。
- 空间计算像多个功能区并联的小城镇,居民在本地就能完成大部分事务,只有必要时才跨区协作。
这两种模式没有绝对优劣,但一旦任务从“跑通通用程序”转向“高吞吐、低延迟、强能效地处理巨量图结构”,差异就会急剧放大。因为瓶颈不再只是算术,而是数据搬运、同步等待和依赖管理。
在这里,一个关键事实会改变很多人的直觉:AI 芯片最贵的往往不是计算,而是把数据送到计算发生的地方。只要每一步都要跨越庞大的 memory wall,算得再快也可能只是更快地浪费能量。
为什么片上 SRAM、PIM 和 actor 模型会突然变得重要
如果你只看峰值 FLOPS,很容易误判下一代芯片。真正决定推理性价比的,常常是另外三个词:片上 SRAM、计算密度、数据局部性。当芯片能把更多工作压在片上完成,它对片外 DRAM 的依赖就会下降,而 DRAM 恰恰是延迟和能耗的大头。
这也解释了为什么某些基于存内计算或近存计算的方案会格外吸引人。它们的核心不是“把所有东西都变魔法”,而是把原本在 ALU、寄存器、总线之间来回奔波的数据流,尽量留在离数据更近的地方处理。这样一来,芯片面积中的一大部分不再被传统控制逻辑吞噬,而可以更多地分配给 SRAM 和本地计算阵列。
这类设计的价值,不只在于单点性能,还在于它对计算密度的重塑。更高的计算密度意味着更多局部缓存,更多局部缓存意味着更少外部访问,更少外部访问意味着更好的能效和延迟。这条链条看起来朴素,实际上却是 AI 推理经济学的核心。
可以把它理解为一个厨房系统:
- 传统芯片像一间只有中央仓库的大餐厅,所有食材都要来回取送。
- PIM 或高 SRAM 密度芯片像把切菜台、调味台和灶台放在一起,很多菜直接在备菜区就完成了。
同样一道菜,后者不是因为火更大,而是因为路径更短。
而在空间计算阵营里,另一个重要趋势是把芯片组织成更像“局部自治系统”的结构。每个处理单元尽量带着自己的计算、内存和通信能力,编程模型则向 actor 模型靠拢。这样做的好处非常现实:它减少了全局共享状态的压力,也把很多原本必须通过统一内存解决的问题,转化为消息传递和局部协作。
这不是纯粹的架构美学,而是一种系统工程上的自救。因为一旦没有全局 shared memory,系统的真实难点就会从“大家一起读写一个地方”变成“如何不让彼此互相堵死”。
真正的难点不是并行,而是依赖、异常和电源完整性
许多人谈空间计算时,第一反应是并行度更高。但并行度只是表象,真正难的是依赖关系的解除。一旦数据在多个 PE 之间直接流动,死锁、拥塞、同步风暴、局部热点就会变得格外敏感。通俗地说,问题不在于你有多少车,而在于十字路口够不够聪明。
这也是为什么分支、递归、异常,会成为空间计算必须跨过的三道坎。传统 CPU 可以靠强大的控制流、乱序执行和内存层次结构去兜底,但空间计算更依赖编译器、调度器以及算法本身对硬件特性的尊重。它要求算法设计者承认一个现实:不是所有软件都天然适合摊平到大规模分布式硬件上。
这里最容易被误解的一点,是把空间计算当成“只要多铺一些 PE 就行”。实际上,规模化不是自动发生的。一个系统要真正扩展,必须同时满足三件事:
- 局部性足够强,让多数计算在本地完成。
- 依赖足够可控,让消息传递不会演化成死锁和拥塞。
- 容错足够现实,承认硬件有延迟、抖动和失败。
这最后一点尤其重要。AI 模型越来越像一个可容错的计算图,而不是精确到每个状态都不可偏离的传统程序。也就是说,未来算法不只是要“正确”,还要对硬件不那么脆弱。如果数学层能接受一定的动态 shape、稀疏性和近似性,那么硬件层就能获得更多自由,从而把系统规模真正推上去。
但这条路还有另一个经常被忽略的现实问题:电源完整性。很多人以为芯片设计只是在逻辑上成立就够了,实际上,当一个大系统按照全局节拍同时启停时,电流变化本身就会制造噪声,进而挑战供电稳定。换句话说,系统不只是要算得对,还要在物理上不把自己搞崩。
这就像一场万人合唱。不是每个人唱得对就足够了,还要有人知道什么时候起音,什么时候换气,什么时候不要所有人同时炸开音量。否则音准还没出问题,电源已经先顶不住了。
一个更实用的框架:从“算力”转向“形态适配度”
如果把这些线索合在一起,我们会得到一个更有解释力的判断框架:芯片竞争的核心,不是绝对性能,而是形态适配度。
所谓形态适配度,指的是一个计算系统与目标任务之间的结构匹配程度。匹配越高,单位能耗和单位成本下的有效吞吐就越高。匹配越低,系统就会在搬运、等待、同步、冗余控制中不断流失价值。
这个框架至少可以分成四层:
1. 数据在哪里
如果数据主要驻留在外部内存,那么任何高速计算单元都可能被拖慢。反之,如果计算尽量靠近数据,系统就能减少往返成本。
2. 依赖怎么表达
如果依赖主要通过全局内存隐式传递,系统更通用,但也更容易遇到 memory wall。若依赖通过消息、局部状态和 actor 协作表达,系统会更接近问题的自然结构。
3. 容错允许多少
如果算法必须严格同步、严格顺序、严格确定,就很难充分利用空间架构。如果算法本身能容忍一定的不规则性,硬件自由度就会大很多。
4. 物理层是否可持续
再好的架构,如果在启停、供电、热设计上不可控,最终也难以大规模部署。架构不是抽象图,而是要落在硅片、封装和机房里的。
这个框架的好处在于,它把“芯片快不快”这种单一问题,扩展成了“芯片是否像任务一样组织自己”这种系统性问题。这样一来,PIM、SRAM 密度、空间计算、actor 模型、BSP、容错算法,不再是彼此孤立的技术名词,而是同一个趋势的不同侧面。
未来的赢家,很可能不是最通用的芯片,而是最懂得把自己变成某一类问题的芯片。
Key Takeaways
-
别只看峰值性能,看数据搬运成本。 对 AI 推理来说,真正昂贵的常常不是算术,而是数据在芯片内外的来回移动。
-
用“形态适配度”替代“通用性崇拜”。 判断一颗芯片好不好,不只看它能不能做更多事,还要看它是否天然贴合目标任务的结构。
-
把算法设计成更可容错的计算图。 动态 shape、稀疏性、局部不确定性不一定是缺点,它们可能是让硬件更高效的入口。
-
关注依赖管理,而不是只追求并行数量。 空间计算的关键不是堆更多 PE,而是避免死锁、同步风暴和通信拥塞。
-
把供电和热设计当作架构的一部分。 只要大规模启停会造成电源噪声,架构就还没有真正完成闭环。
结语:算力的终点,不是更强,而是更贴合
我们过去几十年习惯于把进步理解为“更快的通用机器”。但 AI 时代正在倒逼我们接受一个更深的事实:计算的胜负,不只取决于你能算多少,还取决于你是否以正确的方式靠近问题。
时间计算强调顺序、控制和通用性,空间计算强调局部、并行和结构贴合。前者没有过时,后者也不会取代一切。真正的变化在于,越来越多的高价值任务开始要求硬件不只是执行程序,而是参与组织程序的形状。
所以,下一代算力的终极问题也许不是“谁更快”,而是“谁更像我们要解决的问题”。一旦你开始这样思考,芯片、算法、编译器和系统工程就不再是彼此分离的学科,而变成了同一件事的不同切面:如何让计算,终于停止绕远路。
Sources
Hatch New Ideas with Glasp AI 🐣
Glasp AI allows you to hatch new ideas based on your curated content. Let's curate and create with Glasp AI :)
Start Hatching 🐣