SemiAnalysis：Kimi K3的KDA机制提高注意力效率，但将需要更多的GPU、HBM、DRAM和网络，而非更少！

月之暗面旗下大模型Kimi K3采用线性注意力机制，引发市场对英伟达、HBM以及网络设备需求可能受到削弱的担忧。

不过，半导体研究机构SemiAnalysis近日给出了截然不同的判断：K3庞大的参数规模和推理架构需求，不仅不会削弱高端AI硬件需求，反而可能进一步强化对英伟达高端GPU、HBM以及高速互联设备的需求。

SemiAnalysis指出，K3参数规模超过2.8万亿，模型权重容量超过1.5TB HBM。即便在相对有限的用户并发场景下，KV缓存仍需要大量卸载至CPU DDR5内存及NVMe存储，HBM空间并不会出现明显富余。

更重要的是，月之暗面此前透露，K3的高效推理部署需要至少64颗芯片组成的大规模扩展域架构。这一硬件需求与英伟达GB200/GB300 NVL72等机架级AI系统的设计方向高度匹配。

SemiAnalysis认为，市场此前将线性注意力理解为“削弱GPU需求”的逻辑存在偏差。真正的影响可能恰恰相反：更高效的模型架构降低了AI推理成本，将推动更多应用落地，进而刺激GPU、HBM、DRAM以及网络基础设施的长期需求。

无惧线性注意力迭代，英伟达芯片需求依旧坚挺

市场担忧主要来自Kimi K3采用的Kimi Delta Attention（KDA）机制。

相比传统Transformer注意力机制，KDA能够显著降低KV缓存的数据传输需求，最高可减少约10倍的网络带宽压力。这一变化令部分投资者联想到DeepSeek R1发布后市场对AI硬件需求的担忧，认为模型效率提升可能降低对高端算力硬件的依赖。

但SemiAnalysis认为，这一判断忽视了大模型推理中的另一项核心需求——参数规模带来的计算和互联压力。

K3拥有超过2.8万亿参数，其模型权重本身就需要依赖大规模分布式计算系统完成部署。与此同时，K3采用WideEP（Wide Expert Parallelism）优化策略，将896个专家模块分布到多颗GPU上，使单颗GPU仅需承载部分专家权重，从而提升计算利用率。

不过，WideEP也带来了新的挑战：专家之间频繁的数据交换需要更强大的网络互联能力。SemiAnalysis指出，GB200/GB300 NVL72采用的铜背板互联架构，提供的机架内带宽达到传统DGX B200系统的18倍，非常适合这类大规模专家并行推理任务。

换言之，KDA节省的KV缓存通信需求，可能被WideEP带来的权重交换需求部分抵消，整体AI基础设施压力并未明显下降。

64颗芯片扩展域并非英伟达独家受益

不过，市场对此也存在不同声音。知情人士GDP（@bookwormengr）指出，月之暗面提到的“64颗芯片扩展域”并不一定意味着英伟达NVL72方案。华为昇腾950 SuperPod同样采用64颗芯片配置，并具备类似NVLink的统一总线（UB）内存扩展能力。

从架构能力看，昇腾950 SuperPod可支持跨16个机架扩展至1024颗NPU，在满足大规模模型推理需求方面同样具备竞争力。因此，K3带来的硬件需求增长，并不意味着英伟达将成为唯一受益者，但其对于高端AI互联系统的需求强化趋势仍然明确。

杰文斯悖论：AI效率提升可能推动硬件需求增长

SemiAnalysis进一步援引杰文斯悖论（Jevons' Paradox）解释AI基础设施趋势。

该理论认为，当某项技术提升资源利用效率、降低单位成本后，需求往往不会下降，反而可能因应用范围扩大而增长。应用到AI领域，线性注意力机制降低推理成本后，可能推动更多企业部署AI应用，使全球AI推理规模进一步扩大，最终带动GPU、HBM、DRAM以及高速网络设备需求增长。

不过，GDP对此保持谨慎态度。他认可杰文斯悖论的长期逻辑，但指出，KDA对于长上下文任务中的状态存储优化具有现实意义。即使模型权重规模巨大，由于采用4bit量化以及高度稀疏化设计，实际内存压力可能低于市场直觉。

他认为，真正值得关注的变量在于全球推理需求最大的AI公司——OpenAI、Anthropic以及Google DeepMind——是否已经或未来会采用类似KDA、DeepSeek CSA/HCA等线性注意力方案。如果头部AI公司大规模采用此类架构，长上下文推理对内存和互联资源的需求可能出现明显下降，这将成为影响未来AI硬件需求结构的重要因素。

市场关注点转向：AI需求增长能否抵消架构效率提升

总体来看，Kimi K3的出现并未简单指向AI硬件需求下降。对于英伟达而言，真正的竞争焦点可能从“单卡性能”转向“系统级能力”——包括高速互联、机架级扩展以及大规模推理优化。

随着模型规模持续扩大，即使注意力机制不断优化，AI基础设施仍面临参数规模、专家并行、数据交换以及推理吞吐提升带来的压力。

未来市场需要关注的核心问题，不是线性注意力是否降低单项资源消耗，而是AI应用规模扩张带来的新增需求，能否持续超过架构效率提升带来的资源节省。