英伟达，开始慌了

大数据文摘受权转载自头部科技

文丨俊俊

全球市值第一的位置还没坐稳多久，英伟达公司三天内遭遇 4,300 亿美元（约合31210亿人民币）的抛售。

此前，北京时间6月19日，人工智能芯片巨头英伟达（NVIDIA）市值超越微软成为全球市值最高的公司。

拳打微软（Microsoft）、脚踢苹果（Apple Inc. ）的英伟达睥睨群雄，市值从2万亿美元升到3万亿美元仅用了96天（日历日）。

与之相比，根据Bespoke Investment Group的数据，微软用了945天，苹果则用了1044 天。

科技果然是第一生产力！英伟达市值的增长速度确实令人惊叹！

与此同时，美东时间6月17日（周一）英伟达还有重磅消息传出：该公司CEO黄仁勋时隔9个月再度出售英伟达股票。

黄仁勋本周一提交了一份被称作拟议出售证券通知书的144表格，计划在17日当日继续出售其于2022年3月获得的12万股股票，价值1581万美元（约合1.15亿元）。

此前，根据近日递交给美国证券交易委员会（SEC）的文件显示，黄仁勋在6月13日和6月14日分别抛售12万股公司股票，共计24万股，股票出售价格介于127.78美元至132.23美元之间，总计套现超过3118万美元（约2.26亿元）。

上述交易是否成功，需待几天后公告才能得知。

除了黄仁勋外，英伟达执行副总裁Deborah Shoquist也于2024年6月3日出售了41140股股票，套现超过4500万美元。

其他减持套现的英伟达高管还包括Dawn Hudson、Tench Coxe、John Dabiri、Michael McCaffery、Brooke Seawell和Mark Stevens，他们在最近几周也出售了不同数量的英伟达股票。

证券分析人士指出，“鉴于AI公司的估值太高，市场各方也会变得越来越谨慎，这一客观状况亦可以被理解为高管减持自家公司股票的原因。”

此举是否代表着高管们对英伟达市值能否继续增长的隐忧呢？或许他们已经意料到英伟达股票的技术回调（股价从近期高点下跌 10% 或更多）。

英伟达，始终领跑

AI重不重要真不好说，但英伟达市值成功证明，芯片绝对是目前第一生产力。

尽管英伟达的业绩倍增已经持续了一整年，黄仁勋依然坚定地表示，伴随着下一代Blackwell架构芯片的上市，公司正准备迎接“下一波的增长”。

6月2日，黄仁勋宣布，目前“全球最强大的芯片”Blackwell芯片现已开始投产。供应链对GB200寄予厚望，预估2025年出货量有机会突破百万颗，将占英伟达高端GPU出货量的40%—50%。

Blackwell 架构 GPU，图源：Nvidia

黄仁勋还剧透了英伟达未来三代 GPU 架构，确保此后每年都会有新的芯片发布：计划将在 2025 年推出 Blackwell 的增强版 Blackwell Ultra 芯片；2026 年，计划推出下一代用来取代 Blackwell 的 Rubin 架构芯片；2027 年推出 Rubin 的升级版 Rubin Ultra 芯片。并推出了面向AI PC市场的 GeForce RTX 芯片。

此外，其他所有芯片产品线的更新速度也将以非常快的速度推进，「新的 CPU、新的 GPU、新的网络网卡，新的交换机……即将迎来大量芯片新品」。

AI芯片只是芯片层的一部分，除了Hopper、Blackwell系列，英伟达还有自动驾驶芯片、游戏芯片和机器人芯片，产业布局广泛。

这场演讲比较全面地透露了英伟达的布局和野心：从下至上，从芯片到应用，“我全都要”。

目前，英伟达的人工智能芯片出现供不应求的局面。

在全球诸多领域，存在大约1.5万-2.0万家使用英伟达加速计算平台的生成式AI初创公司，他们亟需英伟达提供“铲子”，以训练模型。

黄仁勋表示，客户交付系统带给英伟达很大的压力——需求量实在太高，超过供应量。

这种供不应求的局面还会持续多久？

行业巨头，虎视眈眈

从市场竞争角度，英伟达的对手也在加速追赶，都想来争夺AI芯片爆发的美味蛋糕。

英伟达GPU正在受到AMD、英特尔（Intel）、博通（Broadcom）等公司的围剿，尽管它坐拥3万亿美元市值，但依然会倍感压力。而中国内地AI芯片厂商的崛起，更是冲击了英伟达在中国的这块大蛋糕。

本身就有AI加速卡的业务，集CPU和GPU设计能力于一身的AMD正在正面挑战英伟达显卡霸主地位。AMD公司CEO苏姿丰（Lisa Su）在COMPUTEX 2024宣布，更新Instinct GPU系列路线图。

其中，全新 AMD Instinct MI325X AI加速器（芯片），将配备288GB HBM3E内存和 6TB/秒的内存带宽，采用与MI300系列相同设计。相比英伟达最强 AI 芯片H200，MI325X内存容量提高2倍、带宽提升1.3倍、计算性能提升1.3倍，最快2024年四季度上市。

同时，此次AMD还即将推出下一代AMD Instinct MI350系列——首款MI350X加速器，基于全新AMD CDNA 4架构，采用台积电3nm工艺，具有高达288 GB的HBM3E内存。相比MI300系列，新的MI350系列的 AI 推理性能将提高惊人的35倍（3500%），预计将于2025年上市。

另外，基于下一代AMD CDNA「Next」架构的AMD Instinct MI400 系列预计将于 2026 年上市。

由于英伟达出货限制，AMD的频繁出招，为自己带来了更多与英伟达分羹的机会，英伟达的大客户微软更是直接宣布，将向云计算客户提供AMD芯片，作为英伟达芯片的替代品。

英特尔作为x86架构的奠基人，如今也涉足AI加速卡领域，可以见到它们所推出的产品不仅在参数上对标英伟达，还在定位与售价等方面发动了一轮又一轮的攻势。

英特尔在 Vision 2024 大会上发布名为Gaudi 3的最新人工智能芯片，这是其子公司 Habana Labs 的最新一代高性能人工智能加速器。

虽然其初衷可能并不是打算超越英伟达最新的人工智能芯片，而是希望为企业提供一种更便宜的替代产品，但势必对英伟达的业务造成一定冲击。

英特尔表示，与目前业内先进的 AI 加速器英伟达 H100 相比，Gaudi 3 在 16 个加速器集群中以 FP8 精度训练 Llama2-13B 时，性能比 H100 快 70%。尽管 H100 已经问世 2 年，但如果 Gaudi 3 成功的话，在任何训练方面都大幅击败 H100 对于英特尔来说将是一个巨大的胜利。

英伟达的许多竞争对手都想抢占其市场主导地位，其中一个不断出现的名字是博通。博通将自己定位为替代方案，向云端计算和AI公司提供定制的AI加速器芯片（称为XPU）。

在最近的一次活动中，博通指出，对其产品的需求正在滚雪球般增长，并指出两年前最先进的集群有4096个XPU。2023年，它构建了一个拥有超过1万个XPU节点的集群，需要两层Tomahawk或Jericho交换机。该公司的路线图是将其扩展到3万多个，最终达到100万个。

博通强调的一项优势是其XPU 的能效。其功耗不到600 瓦，是业内功耗最低、最节能的AI 加速器之一。

博通“Thor 2” NIC 芯片则与 NVLink Switch 4 ASIC 一样，能够直接从 ASIC 上的 SerDes 驱动铜缆，该芯片于 2022 年推出，2023 年出样，现已开始出货。博通通过将 Thor 2 NIC 芯片缩小到 5nm TSMC 工艺，真正突破了功耗极限。（5nm尺寸已足够小，可以大大节省功耗，故未使用工艺尚未成熟，且昂贵的 4nm或 3nm工艺）

Thor 2，图源：网络

Thor 2 还可以直接驱动长达 5 米的铜缆，而大多数 NIC 竞争对手只能驱动 2.5 米长的铜缆，大大降低了电力需求——最多比竞争对手少了一半。

Thor 2 芯片还支持 RoCE v2 RDMA，它类似于 InfiniBand 内置的 RDMA，但支持在以太网上运行。借助 Thor 3 ASIC，博通将采用超级以太网联盟技术，并将端口速度提高到 800 Gb/秒。Thor 3 预计将于明年推出，与服务器中 PCI-Express 6.0 外设插槽的预期交付大致同步。

此外，英伟达最大的客户之一Meta 也不甘示弱，宣布推出Meta 自主研发芯片MTIA，这是一款在公司数据中心运行的定制人工智能芯片，可能会减少对英伟达人工智能处理器的依赖。

谷歌母公司Alphabet 则推出以人工智能为中心的处理器——云张量处理单元(Cloud Tensor Processing Unit, TPU) v5p，可以训练支撑人工智能系统的大型语言模型。

还有超威半导体（AMD.US）的MI300X，特斯拉分别将其用于全自动驾驶系统和超级计算机Dojo的自研芯片。

就连微软，也在其2024的Build大会上，正式宣布了自研芯片Azure Maia 100 和 Cobalt 100 芯片。

不少人认为，买家不会容忍英伟达GPU 的交货时间过长，这将给大量竞争对手制造机会。

英伟达的订单一直处于爆满的状态，业界不会一直等待英伟达。

中国业务，无力挽回

在国内，英伟达“中国特供”的人工智能芯片马失前蹄，已开始大幅下调价格。

囿于美国不断抛出半导体相关制裁法案，去年年底，英伟达推出三款为中国量身定制的芯片，分别是HGX H20、L20 PCIe和L2 PCIe，均从H100基础版修改而来，以符合美国芯片出口条款的新规定。

英伟达GPU产品有一个序列。H100、H200和B100，是英伟达当家GPU产品。以上三种芯片，包括2020年的A100，都受到美国芯片出口管制条款的限制，无法出售给中国企业。

英伟达的产品序列，简单来理解，H100性能，是A100的2倍以上；H200性能，是H100的2倍以上；B100性能，又在H200的2倍以上。

其中，H100是英伟达当前市场流通的主产品线中最强大的GPU，拥有80GB HBM3内存，内存带宽为3.4Tb/s，理论性能为1979 TFLOP，性能密度（TFLOPs/Die size ）高达19.4。

其基础上修改的“中国特供”版本中，H20性能最强大，但一直“卖不动”。

从之前曝光的规格来看，H20拥有96GB HBM3内存，运行速度高达4.0 Tb/s，均高于H100；运算能力仅为296 TFLOPs，性能密度（TFLOPs/Die size）仅为2.9，远不如H100。理论上H100 相比H20 的速度快了6.68倍，也就是说，H20的AI算力只有H100的不到15%。

但值得注意的是，这个比较是基于FP16 Tensor Core的浮点计算能力(FP16 Tensor Core FLOPs)，且启用了稀疏计算（大大减少运算量，因此速度会有显著提升），因此并不能全面反映其所有的计算能力。

另外，该GPU的热设计功耗为400W，低于H100的700W，并且在HGX解决方案(英伟达的GPU服务器方案)中可以进行8路GPU的配置，它还保留了900 GB/s的NVLink高速互联功能，同时还提供了7路MIG(Multi-Instance GPU，多实例GPU)的功能。

值得一提的是，H20的计算能力虽然只有296个TFLOP，远不及H100的1979个，但如果H20的实际利用率MFU（Model FLOPs Utilization，模型FLOPs利用率，目前H100的MFU仅为38.1%）能达到90%以上，这意味着H20实际能跑出270 TFLOPS，那么H20在实际多卡互联环境中的性能接近H100的50%。

从传统计算的角度来看，H20相比H100有所降级，但在LLM推理这一方面，H20实际上会比H100快了20%以上。

总的来说，Nvidia H20核心价值在于使用H20组建大规模集群用于大模型训练，以及适合用于超大规模LLM推理。

其他两款，L20配备48 GB 内存和计算性能为239个TFLOP，而 L2 配置为 24 GB 内存和计算性能193个TFLOP。L20基于L40，L2基于L4，但这两款芯片在LLM推理和训练中并不常用。

L20和L2均采用 PCIe 外形规格，采用了适合工作站和服务器的PCIe规格，相比Hopper H800和A800这些规格更高的型号，配置也更加精简。

所以，英伟达用于AI和高性能计算的软件堆栈对某些客户来说非常有价值，以至于他们不愿放弃Hopper架构，即使规格降级也在所不惜。

定价方面，H20在2023年底，定价和华为竞品差不多。

到2024年2月，H20每张定价约为1.5万美元（11万人民币），已经略低于华为昇腾910B约12万元人民币的售价。

5月底，英伟达“秘密”降价，下调中国特供芯片价格，已经降至大约10万元人民币左右，价格比华为昇腾910B便宜10%以上。

华为昇腾910芯片

也有消息称，华为今年将大幅度增加出货量，单卡价格在7万元人民币左右，牢牢卡住优势位置。

市场层面，业内厂商认为，H20不如国产有性价比，其的销售前景似乎并不被看好。有国内云厂商表示，此前已采购足够数量的AI加速卡，暗示再采购H20似乎没有必要。同时，中国公司也越来越倾向于大量采购国货，放弃食之无味的H20。

国产AI芯片要实现完全自主替代仍然需要时间，其中最关键的问题是生态方面，英伟达的CUDA平台垄断了AI软件行业，国内AI软件/大模型大多是基于CUDA平台搭建，因此这也是英伟达即使弱化了AI芯片性能，依然能获得国内企业采用的原因。

但在政府和企业的联合推动下，当国产AI芯片被更多地采用，其产业链和技术问题都将得到快速完善，生态方面的建立，也都将只是时间问题。

事实上，H20的惨淡或许意味着英伟达中国业务的衰落，其命运已蒙上阴影。

有分析师表示，“从长远来看，英伟达肯定在为最坏的情况做准备。”

一方面，英伟达的战略正如黄仁勋公开演讲所宣称，极大扩展业务范围，“霸占”数据中心、游戏、自动驾驶乃至人形机器人等热门应用领域，把握住全球市场风向。

另一方面，对于可能缩小的中国市场，英伟达尽最大努力销售产品，甚至作出比过去更多的让步。

2024年下半年，将有近100万颗H20芯片运往中国，如果要紧跟单价7万元人民币的华为，英伟达的利润空间将受到大幅度挤压。

作为英伟达在中国市场唯一“能打”的产品，H20的售价不到H100的一半，但由于更高的内存容量，其制造成本高于H100。

除去价格战和出货量因素，英伟达H20在中国之外也不好卖。

根据外媒对现有政府采购数据的调查，过去的半年里，只有5个国家或国家附属机构有意向购买H20，但华为昇腾910B的买家有十几个。

事实上，英伟达最怕的或许不是少了中国市场，虽然中国市场为它贡献近20%的收入，他更担心的应是中国市场体量培育出的可怕的竞争对手。

英伟达最大护城河，CUDA

但英伟达真的会这么容易失去市场吗？

算力可以通过数量补齐，生态才是英伟达一直以来最大的竞争壁垒。

客观来看，英伟达的高端AI芯片还是很有明显优势的。

这得益于英伟达最大护城河——CUDA（Compute Unified Device Architecture，统一计算结构）计算平台以及软硬件生态，CUDA是AI开发人员目前更喜欢英伟达的主要原因之一。

CUDA在后端架构上处于绝对的统治地位。

这种开创性的并行计算平台和编程模型，充分利用图形处理器（GPU）的强大计算能力进行通用目的的计算任务，时至今日，CUDA已经为全球开发者打造了一个庞大的社区，几乎所有的深度学习框架，包括TensorFlow、Pytorch等都对CUDA做了优化。

为了尽快切入市场，绝大多数开发者都更倾向于选择CUDA作为首要计算平台。

与此同时，英伟达也在围绕着CUDA在硬件架构上做更深入的创新和升级，借助更先进的工艺和封装技术提升计算性能和效率。比如随着Volta架构中引入Tensor核心后，英伟达GPU的矩阵运算得到大幅加强，深度学习训练和推理的性能实现飞跃。

两者结合之下，使得CUDA坐稳了第一的宝座。

此前，Nvidia更是在更新其CUDA软件许可条款时，新增了一项规定，明确禁止在非Nvidia硬件平台上利用翻译层运行基于CUDA的软件。

这一加深护城河从而抬高竞争壁垒的举动，传达着，即便这个市场大到自己根本吃不完，但也不能拱手让给竞争对手。

从长远来看，Nvidia无疑会通过设置法律障碍，阻止在第三方硬件上通过翻译层运行CUDA程序，这对Nvidia可能是有益的，但对AMD、Intel以及其他AI计算硬件开发商则可能产生不利影响。

但只是管制，没有禁用，所以英伟达还能依靠生态进行垄断。

如果一旦出现禁用的情况，很快就会有替代它的新生态。

竞争对手或许能在显卡制造方面赶上来，但CUDA计算平台以及软硬件生态以及开发者生态和习惯可不是一时半会无法快速赶超。

很显然，英伟达的竞争对手也想到了这一点。

AMD的开源平台ROCm对标的正是英伟达的CUDA，也提供多种库和框架支持，也有一整套的开源工具链。但其并没有对硬件作出限制，除了Radeon、Instinct系列的GPU外，也在扩展至其他硬件厂商的设备。

这也得益于AMD没有在硬件内引入Tensor核心这样的专有硬件，但也正是因为如此，导致其ROCm在某些任务上略显逊色。

ROCm的整体软件生态的成熟度依然不敌英伟达，以整个TOP500榜单用户来看，英伟达依然占据主导地位。对于云供应商来说，短时间内依然没法摆脱英伟达的统治，因为租用这些云服务的客户们，更愿意在英伟达的CUDA平台上开发。

AMD在发布AI芯片MI300X的当天，告诉投资者和合作伙伴，AMD已经改进了名为 ROCm 的软件套件，用来和 Nvidia 的行业标准 CUDA 软件竞争，解决了一个关键缺陷。

但具体用起来如何，能否让AI开发人员觉得容易上手好用，还是未知。

在国产GPU产品中，MUSA是摩尔线程自主研发、拥有全部知识产权、软硬一体的全功能GPU先进计算统一系统架构，与CUDA无依赖关系。

与AMD的ROCm一样，摩尔线程的MUSA做的也是兼容CUDA的路线，而不是像ZLUDA一样重新编译二进制代码，所以并不违反英伟达的EULA条款。

它可以让开发者将自己的C++源代码，转换成MUSA C++源代码，再通过MUSA编译器MCC编译生成基于MUSA指令集的二进制代码，最终运行在摩尔线程的全功能GPU上。

摩尔线程还向开发者提供MUSA SDK，这是摩尔线程GPU并行计算开发SDK的集合，包含了MUSAToolkits（内置运行时/编译器/GPU加速计算库/迁移/优化工具）及计算库、神经网络加速库、通信库等一系列开发工具，可让开发者快速开发出针对摩尔线程GPU优化的并行计算应用。

在图形渲染相关的软件生态上，厂商们面临的技术壁垒肯定更厚。不仅要带着钻研十数年的决心，还要持续打磨硬件产品，与产业软件生态圈合作。

其实从越来越多的厂商进军GPU，越来越多的GPU厂商发力AI就可以看出，即便CUDA有着深厚的生态积累，但在日新月异的AI中，其他厂商仍有分一杯羹的机会，甚至可能在某个应用中后来者居上。

对此，苏妈的心态很是乐观，她表示：“AMD并不认为自己需要击败英伟达才能在市场上取得好成绩，预计AI显卡的总市场可能在未来四年内攀升至 4000 亿美元，我们只需从中分得一杯羹即可。”

其他城池，腹背受敌

除了芯片与生态领域面临各种挑战，英伟达的护城河之一的 NVLink 以及 InfiniBand 网络技术等也面临着新挑战。

英伟达NVLink版图方面，行业巨头们正在成立新的行业组织 UALink（Ultra Accelerator Link）推广组，计划制定、推广UALink 行业标准，以推动数据中心AI加速器芯片的组件开发，通过开放标准以打破市场领导者英伟达NVLink的垄断。

英伟达在 InfiniBand 网络领域的垄断，也是巨头觊觎的重点。

InfiniBand 对于AI超级计算机至关重要，因为它提供了必要的高带宽连接，使得GPUs、CPUs和存储芯片能够高效协同工作，特别适用于数据中心和高性能计算（HPC）。

Mellanox是高性能的计算机网络技术——InfiniBand技术的主要供应商，拥有全球80%的市场份额。英伟达以69亿美元收购Mellanox，加强了在InfiniBand的布局。

尽管英伟达在GPU和InfiniBand领域占据领先地位，但它面临着成本高昂和市场垄断的批评。以太网技术作为一种成本较低的替代方案，正在获得一部分市场份额，此前，资源充足的厂商会更倾向于选择InfiniBand，而注重性价比的厂商则可能倾向于高速以太网。

但现在，即便是那些具备雄厚财力的大企业，也在寻找更廉价更合适的网络方案。

2023年7月，Linux基金会宣布，将监督成立一个超级以太网联盟，该联盟的创始成员包括AMD、Broadcom、思科、微软、英特尔、Arista、Eviden、HPE、Meta软等，超以太网联盟表示将致力于改进以太网，以满足高性能计算和人工智能系统所需的低延迟和可扩展性要求。

得益于这个超级以太网联盟，过去以太网运行 AI 工作负载的几个问题正在解决，也推动了以太网在传统 HPC 工作负载中的更广泛采用，这也让以太网网络公司找到了反攻InfiniBand的机会。

此外，Arista Networks作为超级以太网联盟的成员，正在通过改进以太网技术来挑战英伟达的InfiniBand，“Arista声称其以太网在任务完成速度上比InfiniBand快约10%。”

市场目前对英伟达的期待值已经被提升到新的高度，英伟达能否继续像过去几个季度那样实现超出预期的表现，仍然是未知数，随着这波市场的潮落，后面英伟达市值是起是伏？仍需要时间验证。

至少目前看来，技术层面，靠实力站在了时代的风口英伟达仍是“一夫当关，万夫莫开”之势。

面对英伟达的挑战，中国的国产算力地图也正在形成，期待更多国内品牌在这场争霸赛中脱颖而出。

不求遥遥领先，但敢为人后，从而后来居上！

租售GPU算力

租：4090/A800/H800/H100

售：现货H100/H800

特别适合企业级应用

扫码了解详情☝