国产AI芯片三国杀：昇腾、平头哥、寒武纪的算力格局与选型指南

去年下半年开始，我身边越来越多做AI基础设施的朋友，都不约而同在聊同一个话题：一批批算力集群开始交付，一颗颗AI芯片被插进服务器，整个行业像在玩一场饥饿游戏。有人把这个盘子粗算成“420万颗芯片”，华为昇腾进得最早、吃得最饱，阿里平头哥守着自家云计算的田，汤喝得稳稳当当，而寒武纪的思元系列，产品做了好几代，却总感觉还在队伍里等一个放量的机会。

这篇文章我不想写什么宏大叙事，就是想从芯片产品、软件工具链、开发者实际迁移和部署的角度，把这三家公司的牌面翻出来看看：420万颗芯片的需求量到底怎么估算，华为凭什么能大口吃肉，平头哥的汤为什么喝得稳，寒武纪又卡在排队队伍的哪一格。顺便也会聊聊，作为一个普通开发者或技术选型负责人，面对这些芯片到底该怎么下手选，怎么避免踩坑。

1. 420万颗芯片的盘子，到底怎么算出来的

1.1 这个数字不是拍脑袋，而是从智算中心配置倒推的

先说清楚，“420万颗”并不是某个官方公布的出货数据，而是业内基于一段时间内智算中心、行业云和企业私有化部署需求推算出来的一个量级。怎么推的？主要靠三个变量：项目数量、单项目服务器规模、单服务器的加速卡密度。

一个典型的中大型智算中心，动不动就是几百台训练服务器起步，每台训练节点标配8张加速卡，推理节点更密，单机可以到16卡甚至更高。粗算一下，100台8卡训练服务器就是800张卡，300台就是2400张；这还只是一个园区的一个标段。如果把全国范围内规划、在建、已交付的智算项目全部叠起来，把AI推理一体机、边缘盒子、行业私有化部署全部算进去，百万颗级别完全说得通。

所以“420万颗”你可以理解成一个关于市场容量的行业估算，它背后隐含的信息是：AI算力需求已经从实验室走向了基础设施采购，国产AI芯片厂商面临的不再是“有没有人买”的问题，而是“来了订单你吃不吃得下、交不交得出”的问题。交货能力、工程化程度、软件生态成熟度，决定了谁能分到最大那块肉。

1.2 “吃肉、喝汤、排队”背后是三条完全不同的路径

同一个市场，为什么三家公司的处境差异这么大？因为它们的商业模式、产品成熟度和客户结构完全不同。

• 华为吃肉：昇腾系列硬件覆盖训练、推理、边缘，软件栈自研，从芯片到板卡到服务器到集群再到开发框架，全栈可控。客户下订单不需要做大量集成适配，量大、交付稳、生态纵深强，所以是整个产业链上吃最大块的。
• 平头哥喝汤：背靠阿里云，不追求外部市场铺量。含光推理芯片、倚天服务器CPU先在自家云上跑，外部客户能通过云服务间接使用，这种模式稳健，但不会像华为那样拿到动辄上万颗的大单。
• 寒武纪排队：思元系列产品本身有竞争力，但生态积累、大客户信任、软件工具链的易用性和华为比还有差距，所以大量订单还在验证、测试、小批量采购阶段，真正放量还得排队等。

一句话总结：肉是给能端住大盘子的人吃的，汤是给有稳定自留地的人喝的，排队的人手里有票，但还没轮到自己进场。

2. 华为为什么能“吃肉”：昇腾全栈的赢法

2.1 昇腾的硬件盘子：从推理到训练全覆盖

华为昇腾产品线目前覆盖了几个关键档位：Atlas 300系列推理卡、Atlas 800/900系列训练服务器、Atlas 200/500系列边缘模组，以及昇腾910B、910C这类面向训练和推理的大算力芯片。用行业里比较通俗的话说，从模型训练到线上推理再到边缘端部署，昇腾基本“一把梭”全接住了。

这种全覆盖的价值在你做技术选型的时候感受最明显。你训练用的昇腾，推理也可以继续用昇腾，整套流程不用来回折腾。反过来看，很多芯片厂商只有推理卡，训练侧打不进去，客户就得训练用A方案、推理用B方案，两套工具链、两套运维体系，麻烦得很。华为用一套技术栈覆盖全程，客户黏性天然就高。

我接触过一些做行业大模型落地的团队，他们当时对比过好几家国产卡，最后选昇腾，理由特别朴素：服务器到货就能跑，MindSpore和PyTorch的迁移示例多，官方技术响应快，出了问题时有人能给准话。芯片这种基础设施，稳定性和确定性比纸面算力更重要。

2.2 软件栈才是真正的护城河

如果说硬件是入场券，软件工具链就是真正的护城河。昇腾对应的核心软件层叫CANN（Compute Architecture for Neural Networks），相当于昇腾的“操作系统地基”。往上一层是自研框架MindSpore，同时CANN也兼容PyTorch，通过适配层让存量模型迁移到昇腾上跑。

CANN里面有几个东西是开发者最容易感知到的：

• 算子库：常用算子基本都预置了高性能实现，你自己不用去手写算子，对绝大多数模型来说，写好的算子性能已经够用。
• 图编译优化：模型算子在昇腾上会被重新编排、融合，减少内存搬运次数，这种底层的调度优化普通开发者根本看不出来，但对整卡利用率的提升非常直观。
• 推理引擎：用于把训练好的模型转换成昇腾格式、做量化压缩、最终部署到生产环境，整个链条的可视化程度比较高，方便排查性能瓶颈。

这也是华为能“吃肉”的最重要原因之一：华为的软件栈让芯片不再是个死硬件，而是能让开发者真实用起来的系统。芯片行业有个很残酷的规律——如果客户拿到你的卡，光是装环境、适配框架就要折腾两个星期，那后面再便宜也很难形成复购。

2.3 华为手里不止AI芯片一张牌

再往大一点看，华为在芯片领域的布局是整个“全场景全家桶”。除了昇腾AI芯片，还有鲲鹏服务器CPU、麒麟移动端SoC，以及数通领域积累已久的网络交换芯片。交换机、服务器、SSD控制、AI加速卡这些东西放到一起看，就能隐隐看到一种整体作战的优势。

比如在智算中心项目里，客户要的不只是一张GPU卡，而是服务器整机、集群网络、存储、运维管理平台一体化的交付能力。华为在这条链条里的各个节点都有对应的产品，网络设备的管理、服务器之间的高速互联，都是自己的一套东西，天然调优空间更大。很多做智算集成的厂商，都会优先考虑华为这套“全家桶”，因为项目交付晚一天，资金成本、人力成本都压在那里。

交换机配置、网络运维这些基础能力在智算中心里也特别重要，一台训练服务器跑多卡并行，网络拓扑不合理，通信就成了瓶颈。华为在数通领域积累了几十年的经验，在这时候是实打实的竞争力，不是PPT里的概念。这也是它能在“饥饿游戏”里大口吃肉的原因——它吃的不仅是一张芯片的肉，而是整个智算底座的红利。

3. 平头哥“喝汤”的逻辑：背靠云，先把自家菜园子守住

3.1 含光、倚天、玄铁：三条腿走路的芯片版图

阿里的平头哥半导体，产品思路和华为很不一样。它旗下主要有三条线：

• 含光系列NPU：主打AI推理加速，对外最知名的就是含光800，峰值算力在当时是行业第一梯队。含光主要用在阿里云内部，比如搜索推荐、图片识别这些高并发推理场景。
• 倚天系列CPU：ARM架构服务器处理器，主要支持阿里云自己的ECS实例。倚天710在云上已经大规模部署，外部用户可以在阿里云上直接买到倚天实例，性能和稳定性经过了很多真实业务的考验。
• 玄铁系列CPU IP：RISC-V架构的处理器IP核，面向物联网、嵌入式市场对外授权，薄利多销，赚的是生态钱。

三条线各有各的用途，但核心其实都指向一个地方：补齐阿里巴巴自己业务和云计算基础设施所需要的芯片能力，先解决自家的问题，再考虑对外卖。

3.2 为什么平头哥不太像“创业公司”

市面上很多芯片公司，是拿融资、做产品、铺渠道、跑客户的逻辑，业务重心在“卖卡”。平头哥身上这套逻辑并不强，因为它的最终客户是阿里云和阿里集团自身的业务场景，更像是“甲方爸爸就在自己家”。

这种模式看起来“不作为”，但在产业里其实是特别聪明的操作。芯片设计出来最怕什么？最怕没有真实业务去磨。很多芯片公司产品流片回来只能自己在实验室里跑跑benchmark，业务场景中的问题自己根本发现不了。但含光芯片上线就在阿里搜索推荐的超大规模场景里跑，倚天710直接给ECS用户用，这种真实业务的“血与火”洗礼，是任何实验室测试都给不了的。

所以平头哥的汤，喝得一点都不虚。它不需要和华为争一个大单子，只要阿里云持续增长，它就有稳定的内部需求，同时可以通过云服务把自研芯片的算力输出给外部用户。这种模式在商业上特别稳，但也决定了它很难出现“一单吃三年”的爆发式增长——这就是“喝汤”和“吃肉”的本质区别。

3.3 “喝汤”其实是一种稳态策略

有人觉得“喝汤”是贬义，但站在产业和商业的双重角度，喝汤是一种非常健康的稳态。平头哥不死磕外部客户，反而让它有足够的耐心打磨产品。

一个特别典型的例子是倚天710。这颗ARM服务器CPU在阿里云上已经稳定服务了好几年，积累了大量的真实用户反馈，产品迭代方向非常清晰。相比之下，很多野心很大的国产CPU公司，做出来以后发现没有自己的云，只能去投标政企项目，单子来得快去得也快，供应链和现金流波动非常大。

平头哥的另一盘棋是玄铁系列RISC-V IP，这属于长期主义布局。RISC-V的开源指令集近几年越来越受关注，如果未来嵌入式、物联网领域大量转向RISC-V架构，那么玄铁IP的授权收入就会成为一笔非常可观的“稳定汤底”。到时候平头哥可能不仅喝汤，还能开始啃骨头。

所以看待平头哥，不能用“跑量”的思维，而要用“生态+场景”的思维：它护的是阿里云的算力自主，攒的是未来芯片架构的话语权。在2025年这个时间点，守住自己的一亩三分地，比什么都重要。

4. 寒武纪为什么还在“排队”：产品不差，差的是临门一脚

4.1 思元系列的产品线梳理

寒武纪的产品线这几年也越来越清晰。思元系列主要分为训练、推理、边缘几个方向。消费市场上曝光比较多的是MLU270和MLU370两个系列：MLU270属于上一代推理卡，出货时间比较早；MLU370-S4是面向AI推理的主流卡，在视频分析、推荐系统、OCR这类业务里有不少部署案例；MLU370-X4、MLU370-X8则瞄准训练和更高性能的推理需求。此外还有面向边缘计算的小型模组和板卡。

从硬件规格上看，思元系列并不差。MLU370系列在单位功耗性能、内存带宽上都有不错的表现，尤其是在推理场景，负载比较稳定的时候性价比优势明显。寒武纪还有一个特点，很早就开始做训练和推理一体化的架构设计，思元370的架构对训练和推理都做了针对性优化，不是单纯堆算力。

但为什么它给人的印象还是“排队”呢？核心不在于芯片本身，而在于整个产品体系的“最后一公里”——也就是软件生态和客户交付体验。

4.2 排队排的是什么：验证周期、生态迁移和放量机会

芯片行业有个不可跨越的阶段：客户拿到芯片后，要进行长时间的测试验证。AI芯片尤其费劲，因为客户要看的不只是算力跑分，而是自己的模型迁移上去以后能不能稳定跑、能不能达到性能预期、出了问题有没有人快速响应。

寒武纪的软件栈包括底层驱动、运行时、编译框架CNToolkit，以及兼容PyTorch的插件层。从设计上，它是往“对标行业主流方案”这个方向做的，但问题是生态的成熟度需要时间沉淀。一个常见的真实场景是：你今天拿到一张寒武纪的卡，装上驱动和框架，把原来基于CUDA写的训练脚本迁过来，几乎必然要遇到算子不支持、性能不达预期、报错信息看不懂这类问题。这些问题不会让你完全用不了，但会拖慢你的上线节奏。

这就是“排队”的本质——寒武纪的技术底子是有的，产品也已经小批量进入了行业客户，但它还处于从“能被评估”到“被大规模接受”之间的过渡阶段。客户还在排队等它的工具链更稳定，等它的社区文档更完善，等它的性能调优案例更丰富。

4.3 开发者怎么客观看待寒武纪的技术实力

如果你现在要在寒武纪和另两家之间做选择，我建议从三个层面去看：

• 硬件层面：思元系列的基础算力、显存容量、功耗表现在国产卡里属于中上水平，统一内存架构带来的编程便利性是实打实的加分项。
• 软件层面：CNToolkit和PyTorch适配插件这几年进步明显，常用模型基本都有官方的迁移示例，但在覆盖面和精细度上还有提升空间。尤其是做训练调优的团队，要有心理准备，花在移植和调优上的时间可能比预期多。
• 生态层面：寒武纪的开源社区、第三方博客教程、技术问答沉淀比头部厂商少一个量级，遇到冷门问题，搜索解决方案的难度会大不少。

综合来看，寒武纪是一个“潜力大于当前体验”的选手。它不是没实力，而是没能用一个“爆款大单”证明自己已经进入大规模放量阶段。在420万颗芯片的饥饿游戏里，它还在队伍里等。

5. 决定生死的隐形战场：开发工具链和迁移成本

5.1 三家各自的“软件地基”

这件事值得单独拿出来说，因为很多技术决策者选芯片时只看“算力TOP榜”，却忽略了工具链的直接开发体验。我帮不少团队做过国产芯片适配评估，最大的体感差距往往不来自芯片算力本身，而来自软件栈的成熟度。

华为昇腾对应的CANN已经迭代了很多版本，算子库、编译器、调试工具的完整性都在往上走；平头哥含光和倚天更多是服务阿里云内部场景，工具链跟着云上框架走，外部用户直接用云实例即可；寒武纪的CNToolkit结构上和CANN有相似之处，但要达到“开箱即用”的流畅程度还有距离。

这里我列一个对比表，方便大家直观感受：

5.2 迁移一个模型到底要花多少时间

很多朋友问我：“把一个原本在CUDA上跑的模型迁到国产芯片上，到底要多久？”这个问题没有标准答案，但我可以给一个基于真实经验的参考区间。

如果是PyTorch生态里比较标准的模型（ResNet、BERT、GPT系列等），而且目标芯片的官方适配层做得不错，那大部分工作量在环境搭建和依赖版本对齐上，顺利的话几小时到一天就能跑通。但真正磨人的是后面：跑通了不代表跑得快，还得做算子替换、性能调优、显存优化，这些步骤叠加起来，一个认真做性能验收的团队，通常要预留一到两周的时间。

这个时间成本就是“生态差距”最真实的样子。头部芯片厂商工具链的价值，就在于把你的迁移时间从两周压缩到一天。所以芯片之间的竞争，表面看是算力竞争，实际上是用人力和时间成本去消耗客户耐心的竞争。谁能让客户最快跑起来，谁就是赢家。

5.3 判断一家AI芯片公司值不值得跟的方法

我给技术选型的人一个“三看”方法，基本能判断一家AI芯片公司是否值得押注：

• 看它有没有大规模落地案例：如果一家公司吹得天花乱坠，但行业公开案例里找不到大规模集群部署，那它的产品大概率还停留在实验室阶段。芯片和别的硬件不一样，只有在大规模集群里跑过一年以上，出问题的妖魔鬼怪才算是见过了。
• 看它的工具链更新频率和社区活跃度：一个芯片公司的软件团队如果不够大，文档更新和版本迭代就会跟不上，你用着用着就会撞墙。去GitHub看看它的工具链仓库最近一年提交情况，比看发布会PPT有用得多。
• 看它对开发者问题的响应速度：给它的官方社区留言或者提一个工单，看看多久能收到有效回复。技术支持响应速度，基本代表这家公司把客户放在什么位置。

这三个标准，放到华为、平头哥、寒武纪身上都能看出很明显的差异，也基本解释了为什么三家公司目前在市场中的处境完全不同。

6. 落地观察：一张国产加速卡从开箱到跑起来的真实流程

6.1 第一步：环境检查和驱动安装

不管你是买了昇腾的Atlas卡、寒武纪的思元卡，还是其他国产AI加速卡，落地流程的骨架是差不多的。我这几年给几个团队做过部署指导，总结下来就是四步走，90%的坑都集中在这四步里。

第一步是环境检查。先确认服务器PCIe插槽的物理空间和供电是否满足，然后看系统版本、内核版本和芯片驱动的兼容性。绝大多数AI加速卡对操作系统版本有严格要求，最保险的做法是查官方兼容性列表，使用列表里明确支持的Ubuntu或CentOS版本。这里我提醒一句：不要用太新的内核，内核版本太新往往会导致驱动编译失败，这是国产卡部署里最常见的开局劝退。

第二步是驱动安装。如果是纯命令行的服务器，先把驱动包传到机器上，解压后按官方README执行安装脚本，一般需要重启或重新加载内核模块。驱动装完以后，用设备扫描命令确认系统能识别到芯片（比如lspci能看到设备信息），再运行芯片自带的监控工具检查显存和温度。走到这一步，硬件层面的工作基本就结束了。

6.2 第二步：算力工具包与框架适配

驱动只是地基，真正干活还得装算力工具包。这个阶段做的事情就是把芯片厂商提供的运行时、编译器和框架插件装好，让PyTorch、TensorFlow这一类框架能调用芯片算力。

以寒武纪的典型流程为例，思路大致是：装CNToolkit工具包，再装Cambricon PyTorch插件，然后通过设置环境变量让框架在导入时加载寒武纪后端。昇腾的安装路径也类似，装完CANN之后通过环境变量指定Ascend后端，PyTorch程序就能跑到昇腾设备上。流程大差不差，但细节决定成败，最容易翻车的点有三个：

• Python版本和框架版本必须严格匹配官方支持矩阵，乱装新版框架很可能直接不认芯片后端。
• 环境变量要正确加载，很多“卡没被识别”的问题其实只是环境变量没生效。
• 多用户服务器要注意权限，普通用户需要额外配置可写目录，否则算子缓存写入失败会报出一堆莫名其妙的错。

6.3 第三步：跑实际模型验证性能

环境装好以后，别急着跑你的大模型，先用官方自带的示例脚本做个冒烟测试。这一步很重要，它能确认整个软件链路是通的。冒烟测试通过后，再拿你的真实模型跑一个小batch的推理或训练，观察表现。

性能不达标是常态，但不代表芯片不行。常见的原因有几个：一是模型没有经过算子替换，部分算子在国产芯片上是fallback到低速实现的，性能会掉得很难看；二是batch size太小，算力没吃满；三是数据加载路径没走对，比如图片解码还在CPU上跑，GPU空闲等待。

我建议的做法是：先跑官方性能基线，把官方能达到的指标摸清楚；再逐层排查你的模型在哪里掉速；最后针对掉速点做替换和优化。这个过程虽然磨人，但你能对芯片的真实能力形成体感，而不是只看纸面算力。

6.4 服务器之外：边缘芯片和开发板生态的另一种热闹

大算力AI芯片在“饥饿游戏”里抢肉吃，但芯片市场从来不只属于服务器。RK3588、ESP32、STM32这些芯片在开发者和嵌入式工程师圈子里的热度，一点不比大芯片低。最近很多热词都指向这些板级芯片：STM32的芯片包安装、RK3588的开发环境、ESP32的联网方案，这说明芯片行业真正热闹的是多极化的生态。

你在RK3588上跑一个端侧AI模型做目标检测，在ESP32上跑一个传感器数据采集，在STM32上点几个LED，这些场景看起来“小儿科”，但它们是芯片生态最基础的部分。服务器端的AI芯片要做大规模落地，离不开边缘端、嵌入式端这些“毛细血管”的配合。一家芯片厂商如果在嵌入式领域没有生态，那它的“全场景”就是残缺的。

对我个人来说，接触这些板级芯片越多，就越能理解芯片行业的一个朴素规律：生态不是靠一款旗舰芯片建立的，而是靠千千万万开发者把一个一个小场景跑通，才慢慢攒出来的。

7. 常见问题速查与避坑经验

7.1 关于芯片选型的典型误区

这几年帮一些团队做过国产AI芯片的选型评估，发现大家经常踩几个相似的坑，这里集中写一下：

• 误区一：只看算力数字不看算力利用率。很多芯片的INT8算力标得很高，但实际跑到业务模型上，利用率不到50%。算力是不是真能发挥出来，取决于软件栈的优化程度和模型结构与芯片架构的匹配度，这只能通过实测验证。
• 误区二：忽视显存容量。大模型时代，显存容量某种程度上比算力更关键。一张24GB和一张48GB的推理卡，能承载的batch size差距很大，直接影响到在线服务的吞吐和时延指标。
• 误区三：以为软件迁移是一次性成本。实际上，芯片厂商每次升级框架适配层、你每次升级PyTorch版本，都可能导致行为变化。软件兼容是需要长期维护的，选择生态强、更新频繁的厂商，能让你少操很多心。
• 误区四：忽略硬件形态对现有IDC环境的兼容性。有些加速卡的功耗很高，对服务器风道设计有要求，老机房的供电和散热可能根本带不动，下单前一定要核对现存服务器的规格。

7.2 关于开发者身份的几个疑问

很多个人开发者问我：我不是大厂的工程师，这些大算力芯片和我有关系吗？我的看法是：

如果你是做算法的，现在就可以去申请各家的云上算力，用昇腾、含光、思元的云实例把模型调通，提前积累国产芯片的适配经验。这个经验在未来两到三年会越来越值钱，因为你会发现在很多招聘JD里，已经明确写了“有昇腾或国产芯片适配经验者优先”。华为OD招聘里大量放出昇腾相关的开发测试岗位，就是在释放一个信号：这个方向缺人，而且缺得很急。

如果你主要用RK3588、ESP32、STM32这类板级芯片做产品，那你可以关注一下这些芯片在端侧AI、边缘计算上的新玩法。端侧AI设备的出货量增长非常快，未来很多推理根本不需要上云，在边缘端就能完成。提前储备这些技能，对个人成长来说是一个很不错的加分项。

7.3 关于“420万颗”与个人机会的联系

最后说说“420万颗芯片”对普通人的影响。这个量级的芯片要落地，背后需要的不是几个卖芯片的公司，而是一整条产业链的人：

部署工程师需要把这些卡装进服务器、调通网络、处理故障；算法工程师需要把模型迁移到不同芯片上、做性能和精度优化；运维工程师需要维护分布式训练集群、管理算力调度；测试工程师需要把住质量和性能关。芯片的量级越大，需要的软件人才就越多，这绝不是夸张。

如果说芯片是身体，那么工具链是神经系统，而开发者就是让整个系统活起来的人。大算力芯片出货量上去了，最缺的就是能把这些芯片用得明白的人。所以不管你是刚入行的学生，还是已经工作好几年的工程师，把国产AI芯片工具链的适配和优化技能作为自己的方向之一，我投一票赞成。

我自己在这两年里，从一个只看NVIDIA CUDA生态的工程师，变成了国产芯片的“多面手”，过程不轻松，踩过的坑也算不上少。但回过头看，我很确定这条路值得走。先进算力芯片的供需关系短期内不会逆转，国产芯片的市场地位也在肉眼可见地提升。420万颗只是一个开始，后面还会有更大规模的替换与新增需求。对硬件厂商来说，这是一场饥饿游戏；对我们这些做技术的人来说，这是一次难得的时代机会。

最后再分享一个小技巧：如果你想快速判断一套国产AI芯片方案值不值得跟，不用看发布会，直接找一块真实的卡或者云上实例，拿你正在用的模型跑一遍推理，把从环境搭建到最终出结果的全部耗时记录下来。这个时间越短，说明这家芯片公司越值得信任。芯片是用出来的，不是吹出来的。