国产AI芯片真实差距：从架构到工具链的选型指南-北京尧图网络

1. 这份之二到底在盘什么调研边界与样本构成做国产AI芯片厂商调研最难的不是找资料而是定边界。市面上叫得上名字的AI芯片公司已经超过百家真正有流片记录、有量产产品、有公开客户案例的又是另一拨两者差别很大。很多人一上来就问哪家最强但作为经历过选型和落地的人我更愿意把问题拆成四层有没有量产芯片、软件栈能不能用、客户是否真在采购、长期有没有人维护。这次调研的第二篇就是围绕这些维度把30家国产AI芯片厂商完整盘一遍。1.1 30家样本从哪里来又排除了谁这30家不是闭眼从新闻里抓的筛选逻辑其实很朴素必须有明确的自研AI算力产品要么是芯片本身要么是围绕AI算力的IP和解决方案。纯做封装、测试、PCB载板或者只做模组的公司没有放进来因为这些环节的竞争力更多在制造工艺和供应链和AI计算核心关系不大。样本分成四个阵营每家都能放进对应格子阵营典型厂商云端GPGPU/ASIC加速昇腾海思半导体、寒武纪、海光信息、景嘉微、摩尔线程、壁仞科技、沐曦、燧原科技、天数智芯、昆仑芯、平头哥半导体、登临科技、瀚博半导体、算能科技、中昊芯英、太初电子、后摩智能、亿铸科技边缘/端侧SoC瑞芯微、晶晨股份、全志科技、亿智电子、爱芯元智、时擎科技、奕斯伟计算车规智能驾驶地平线、黑芝麻智能AI IP与定制服务芯原股份、芯动科技、国芯科技把国产AI芯片厂商的定义放宽到IP公司会有人质疑芯原和芯动又不直接卖AI芯片。我的看法是IP公司的架构被集成到大量SoC里在端侧AI市场的影响力不比独立芯片公司小。尤其安防、家电、工业视觉这些对成本极度敏感的领域很多终端芯片里的NPU就来自这些IP授权方。调研如果把这一层漏掉结论会偏。1.2 调研用的不是发布会PPT而是五类交叉信息这次结论依赖的信息渠道可以列一下方便同样想跟这个产业的人复用公开财报和招投标记录能看出哪些芯片真正产生了收入而不是停在样品阶段开发者社区和兼容性issue能看出工具链的真实痛苦程度智算中心和采购方释放的招标规格能看出哪些厂商在政企和运营商市场有实际批量行业交流群里算法工程师的实际反馈能看出售后和适配响应速度自己做基准测试或者跟测试机构交叉验证能看出纸面算力和实际吞吐的偏差。这五类信息要互相印证。比如某厂商发布会宣称单卡训练吞吐多么亮眼但公开招标里一直没出现或者开发者社区大量反馈算子缺失那这条宣传就要打个问号。反过来如果招投标不多但边缘端产品在电商平台长期大量出货那说明它在另一个市场是活的。所以我更愿意把这份报告看作是用脚投票的结果而不是用嘴投票。2. 第一梯队与追赶者从芯片实测与量产进度看真实差距把30家放在一起横向看最直观的分层标准不是算力高低而是量产状态和真实出货规模。芯片行业最残酷的一点在于流片成功和能用是两件事能用和大规模上车、上架卖钱又是两件事。2.1 四梯队划分谁在真正创造收入梯队判定标准代表厂商关键观察T0规模出货且生态成熟多代产品量产出货软件栈被大量第三方验证昇腾、寒武纪、海光、昆仑芯、地平线、瑞芯微已经有稳定收入真实客户案例可查T1量产起步、正在放量芯片流片量产板卡/模组出货但规模还在爬坡摩尔线程、沐曦、燧原、天数智芯、壁仞、登临、瀚博、爱芯、黑芝麻、算能、景嘉微产品真实存在但市场声量和开发者基数还撑不起生态T2送样验证、量产前夜已回片或者小批量送样还没形成稳定收入后摩智能、亿铸科技、中昊芯英、太初电子、时擎科技、奕斯伟计算、亿智电子技术路线有亮点但需要时间验证IP/定制服务不直接卖标准芯片以授权和SoC定制为主芯原股份、芯动科技、国芯科技活得挺稳但市场体量受客户项目数约束这个分层最大的意义是拉长了预期。很多人在新闻里看到的国产AI芯片厂商其实只在T2离规模化交付还有一两年的路。真正能作为主力采购对象的只有T0和T1里的一部分。2.2 几个典型厂商的真实位置昇腾是绕不开的存在它的优势不是某一颗芯片而是整机、框架、编译器生态的完整度。CANN工具链这几年迭代速度很快PyTorch适配也不再是老大难。实际用下来真正拉开差距的是集群场景单卡性能容易对标但多卡互联和集合通信性能需要调试经验不是开箱即满血。寒武纪从IP授权一路做到云端训练芯片思元系列在多个智算中心批量部署盈利曲线也证明了客户认可度。但我个人感觉它的软件栈偏封闭的稳对外部开源社区的跟进速度有时慢半拍适合把你的模型稳定跑在某个固定版本上不太适合天天追新。海光信息走的是GPGPU路线DCU对CUDA生态的兼容性是几家里做得最顺滑的。很多做大模型预训练和微调的团队迁移成本最低的往往就是海光因为它底层指令集和ROCm有天然的亲近关系。这也是DCU在招标里频繁出现的原因采购方可以理直气壮地说我用了CUDA兼容生态。地平线在车规市场是另一种打法征程系列结合了硬件、工具链、功能安全方案不单纯卖芯片更像是提供智能驾驶计算平台。车载芯片的验证周期比云端长得多但一旦定点合作关系往往持续好几年。摩尔线程、沐曦、燧原这类公司在通用加速卡上各有亮点产品指标发布得都很漂亮。但说实话它们的命运取决于两个很基础的问题你愿意花多少人力做适配你能否接受bug修复节奏。大模型框架每天都在变如果厂商的算子库跟不上上游你的模型就只能锁在一个旧版本上。2.3 真正的差距不在芯片在软件和售后同一颗芯片由不同水平的工程师来调性能可以差出一倍。这个现象在国产卡上体现得尤其明显。硬指标比如INT8算力、FP16密度、显存带宽大家都能做上去但实际跑一个包含几十个算子的大模型算子是否覆盖、编译器是否生成了高效代码、显存分配策略是否合理这些才是决定训练速度和推理吞吐的关键。我在实际项目里遇到过很典型的情况某个国产加速卡跑ResNet类模型官方算子库全部覆盖速度还行换到最新的Transformer结构后有一部分自定义算子落回了CPU兜底导致GPU利用率忽高忽低。厂商工程师来了先查版本再打补丁最后建议我们锁框架版本。不能说厂商不努力但生态成熟度确实需要时间补课。另一个被低估的是售后响应。头部厂商因为客户多、驻场工程师多遇到问题基本能当天响应中小厂商很多时候只能邮件来回。这在规模化部署时是硬伤因为客户不会把你的技术文档放在第一位他们只需要出了问题有人管。3. 剥开一颗国产AI芯片架构思路、工艺选择与量产取舍聊完梯队再看芯片本身。为什么有的公司做出来的芯片算力极高却卖不好有的算力平平却持续出货答案往往隐藏在架构取舍里。3.1 三条主流技术路线没有绝对好坏通用GPGPU思路的代表是海光、摩尔线程、沐曦、天数智芯。它们本质上就是做一个接近CUDA编程模型、可编程性强的通用计算引擎。好处是软件生态兼容成本低什么模型来了都能跑适合云端各种不确定负载代价是面积大、功耗高调度复杂场景要仔细优化。DSA领域专用架构思路的代表是昇腾的达芬奇架构、寒武纪的MLU、地平线的BPU。它们把大量芯片面积铺在矩阵运算单元上针对CNN、Transformer这类固定算子做极致优化。效率和能效比确实高但灵活性打折。比如某个新出的模型如果引入了一种全新的算子形态DSA芯片的适配时间往往比通用GPU长。存算一体路线则是另辟蹊径后摩智能、亿铸科技都在做把计算放进存储单元减少数据搬运理论能效比很诱人。但目前整个生态还在早期编译器和精度处理都还不够成熟更适合功耗严苛的特定场景距离大规模通用计算还有距离。打个比方GPGPU是全能型多面手DSA是专线加工流水线存算一体是试图把仓库直接改成车间。没有谁绝对优于谁只有合不合适。3.2 制程、存储和互联是三个隐藏卡点云端AI芯片普遍追逐先进工艺因为算力和功耗受晶体管密度限制。但先进工艺流片成本高、回片周期长、良率爬坡慢不是所有公司都烧得起。这也是很多边缘端芯片选择12nm、14nm甚至28nm成熟工艺的原因——端侧对算力没那么执着但对成本、功耗和稳定供货极其敏感。存储方面HBM给了大模型训练足够的带宽但价格高供货紧张。边缘芯片普遍用LPDDR成本可控但大模型推理中显存带宽往往才是瓶颈算力堆得再高带宽跟不上也是白搭。这个点经常被发布会PPT忽略。互联是最容易被低估的环节。单卡好看没有用训练大模型至少要一两百张卡。卡间通信走私有互联协议还是走RoCE网卡集群加速比完全是两个故事。我见过一个8卡服务器芯片的理论算力很足但卡间互联带宽不够实际训练加速比只有4.8倍而不是理想的7倍以上。选型时一定要问清楚集群规模做到多少加速比曲线还线不线性。3.3 从流片回片到量产中间隔着一整年芯片公司常发点亮成功的新闻但点亮只是第一步。一颗AI芯片从回片到真正能稳定卖通常还要经历以下环节Bring-up电源、时钟、复位、基础外设能不能跑通功能验证计算单元、存储控制器、编解码模块逐一测试驱动开发和运行时让上层软件看得到、管得住硬件算子库移植把PyTorch里常用的算子一个个验证优化板卡级测试散热、功耗、可靠性、老化量产测试和良率爬坡DFT覆盖率不足会导致出厂坏片比例高。这一段路走下来普遍在12到18个月车规芯片还会额外砸进功能安全认证的时间。所以我不太看发布会时间更想看量产时间和客户拿货时间。如果有人告诉你芯都快量产了但连官网上都找不到批量采购入口那大概率还在送样阶段。4. 真正的胜负手编译器、算子库与工具链生态芯片做出来只是地基决定用户愿不愿意用的是跑在上面的软件栈。国产AI芯片和英伟达之间最大的差距从来不是晶体管而是开发者手里那套工具链好不好用。4.1 一套完整的软件栈到底包含什么从下往上数大致是这样的结构层级作用典型问题内核驱动CPU访问显存、DMA、中断稳定性差会导致训练半夜崩掉运行时设备管理、显存分配、命令下发API设计反人类会增加开发成本编译器把PyTorch的IR翻译成芯片指令代码生成质量直接决定性能算子库提供常用算子的高性能实现单算子缺失会让人发疯框架适配让PyTorch/PaddlePaddle等跑在上面版本一升级就出现兼容性裂缝推理引擎支持vLLM、TensorRT等加速大模型推理吞吐受限于此任何一个环节出问题用户体感都是这芯片不行。很多时候不是芯片不行是某个算子没优化到位结果整个模型性能被拖垮。4.2 各家工具链成熟度的横向盘点我自己接触下来大致排个序厂商软件栈名称成熟度观察华为昇腾CANN算子丰富工具多学习曲线陡需要专门的人力投入寒武纪Neuware稳定封闭适合锁定版本跑的团队海光DCU软件栈ROCm生态CUDA兼容最好迁移成本低但工具链迭代受上游影响昆仑芯PaddlePaddle/pytorch适配因百度内部业务打磨框架适配很快地平线地平线芯片工具链车规场景工具完善嵌入式开发体验好摩尔线程MUSACUDA兼容路线编译器在快速补课沐曦MXMACA迭代快但算子库覆盖仍需积累燧原TopsTools偏框架一体化对外部开发者开放度在提升登临GPUware场景化工具较多适合特定推理任务这份表带有明显的个人使用色彩仅供参考。但有一个规律是通用的软件栈成熟度越高的厂商越敢于开放文档和工具还在补课阶段的厂商往往会显得保守因为怕暴露短板。4.3 兼容CUDA只是入场券不是免死金牌现在和不讨论CUDA兼容几乎没法正常选型。各家做法分三种第一种是转译层式兼容比如MUSA兼容CUDA代码。它的优点是老代码改动小但运行时会有额外开销复杂的图执行模式容易出幺蛾子。第二种是底层指令集接近比如海光DCU本质上就是向着GCN生态靠拢所以很多代码直接能跑性能损失小。第三种是彻底自研只开放标准接口比如昇腾和寒武纪自研程度高但意味着你所有要跑的算子都需要它们在库里补上。我的经验是如果只是跑个benchmark demo转译层足够如果要做大规模训练和长期迭代最好选底层兼容或者自研库覆盖足够的平台。不然每个新模型都要你先写算子心态迟早崩。4.4 一个真实的调优案例为什么算子融合这么重要去年做大模型推理适配遇到一个很典型的问题用国产卡跑LLaMA类模型prefill阶段显存带宽打满但要命的不是矩阵乘法而是KVCache的存储格式转换。PyTorch默认的KVCache更新方式逐层调用小算子每次都在HBM上反复读写。把KVCache更新、衰减和浅层融合成一个大kernel后整体生成吞吐提升了30%以上。这就是算子融合的威力。它不是把代码改快一点而是改变数据搬运的方式。芯片厂商的工具链里如果内置了这些融合模板使用者就省力如果全靠自己写那结果就是国内社区里大量技术博客都在教你怎么手写国产卡算子。这不叫生态好这叫用户被逼成了供应商。5. 落地场景里谁在真买单从智算中心到车端边缘的客户验证芯片最终要看采购单。我给你盘一下目前30家里真正形成规模化收入的几个场景以及用户反馈里最常见的坑。5.1 数据中心与政企智算中心大模型训练和推理的试验田昇腾、寒武纪、海光、昆仑芯这四家在数据中心场景存在感最强。实际采购中政企智算中心往往以总算力为标的某一两个厂商能进短名单就已经是巨大优势。很多整机厂会把国产卡和英伟达卡混布在同一集群里配合调度系统实现异构算力统一池化。这种模式下客户更关心的是你的卡支不支持主流大模型框架能不能和已有容器平台无缝对接。真实反馈里出现最多的两类问题一是框架版本适配滞后二是RDMA网络配置复杂。跑大模型预训练离不开高性能网络如果厂商的集合通信库做得不够健壮训练作业运行到一半就断连重连体验会很差。5.2 智能驾驶车规芯片的慢生意地平线和黑芝麻在车规市场已经跑出不少定点项目。智能驾驶对芯片的要求和云端完全不同功耗限制严苛、安全性要求高、产品生命周期长一颗芯片从定点到量产上车可能横跨四五年。行业里的经验是车规芯片卖的不是算力是安全信任和工具链成熟度。技术再先进功能安全认证没下来车企也不敢用。地平线的征程系列之所以能拿单除了BPU架构本身能效比不错更关键的是它有一个完整的工具链和参考方案从摄像头接入到模型部署一整套东西都给你搭好了。车企不需要自己养一个大型AI基础设施团队。这一点对任何想进车规的芯片厂商都有参考价值要让客户少干活而不是买回一个半成品。5.3 边缘计算与安防低调但真实走量瑞芯微、晶晨、全志、爱芯元智、时擎这些边缘SoC厂商在公共视野里热度不高但出货量往往最可观。IPC摄像头、门禁、扫地机、翻译笔、智能音箱里都藏着一颗边缘AI SoC。这类芯片的竞争点是单位成本下的充分算力、AI-ISP画质增强能力和裸片成本而不是最强算力。爱芯元智主打的AI-ISP思路很有意思用NPU配合ISP做降噪和HDR能在低照度下提升画质。这在安防领域是刚需因为夜间场景占监控很大比例。某种程度上边缘芯片的AI能力是悄悄在ISP里落地的用户感知不到AI芯片的存在但体验确实变好了。5.4 选型时容易掉进去的三个坑第一坑是只看单卡算力不看实际吞吐。厂商宣传的TOPS是理论峰值实际跑到50%就算优秀。正确做法是拿自己的模型在目标卡上跑一遍对比FP16和INT8的真实吞吐和时延。第二坑是低估了适配人力成本。有些卡采购便宜但团队要为一个算子适配花三周人力算上工程师成本总拥有成本未必低。我一直建议选型时把试着自己写一个自定义算子作为测试项谁家文档全、示例清楚、编译器报错有指导性谁家就值得优先考虑。第三坑是忽略售后SLA。芯片不像软件可以随时重启大规模集群一旦卡死工程师如果不能在几个小时内介入损失是按分钟算的。采购谈判时一定要把驻场支持备件保障故障响应时间这些写进合同而不是只看报价单。6. 2025年的几个关键变量产能、生态统一与选型策略把视角拉回当下30家厂商接下来一年要面对的问题反而更聚焦先进工艺产能能不能排上队、生态能不能收敛、商业模式能不能跑通。这几个变量比任何一家芯片的纸面参数都重要。6.1 产能与先进工艺仍是硬约束云端大芯片必须靠先进制程但先进工艺产能对初创公司并不友好。流片费用动辄数千万起良率爬坡还要额外消耗时间和金钱。边缘端则相反成熟工艺产能富余价格战打得更凶。所以未来一年云端格局可能继续向头部集中边缘端则会出现更多低价竞争和同质化。对中小厂商来说与其在7nm以下硬碰硬不如想想怎么在12nm/14nm上通过架构设计把能效做出来。芯片行业不是只有最先进工艺一条路成熟工艺上的低成本高能效设计同样有市场。6.2 生态会不会走向统一我的判断是不会很多人在期待一个国产CUDA出现把各家统一起来。但现实是各家工具链内部利益盘根错节统一接口的尝试需要巨大的投入和强大的上游话语权短期内不大可能。更大概率是出现两层结构底层指令集各自为战上层通过标准接口和容器化调度做松耦合统一。反正用户跑模型用的是PyTorch中间编译器把IR映射到哪家硬件对上层透明就好。这种局面下真正能跑出来的厂商一定具备两个特质一是算子库覆盖广且持续跟上新模型二是编译器生成的代码质量接近手写优化水平。第一点靠人力堆第二点靠时间磨。6.3 三种商业模式风险收益差异很大卖芯片/加速卡是传统模式毛利高但竞争激烈客户要求你有完整的售后和生态。卖整机/集群是带服务溢价的路子适合有资源调度的厂商但对资金链和管理能力要求更高。卖算力/云服务是转型方向把芯片变成订阅算力收入稳定但同样要面对来自IDC和云厂商的竞争。芯原、芯动、国芯这种IP授权模式反而活得稳它们不承担芯片量产风险赚的是设计服务和技术授权费只是天花板明显。厂商在选商业模式时本质上是在选风险偏好和资源禀赋。6.4 给你一份可复用的选型评估清单如果现在有人拿着一张国产AI芯片的规格表来问我我通常不会马上给结论而是建议他走一遍这个流程拿自己的真实模型跑一遍看基准吞吐和时延是否达标做个多卡扩展性测试看加速比有没有严重偏离线性上手写一个自定义算子感受编译器易用性和文档完整度模拟故障工单看厂商技术支持的响应速度对比总拥有成本单卡价格之外还要算适配人力、维护人天、停机损失。这套东西走完你对某家芯片是否能用的判断基本就不会被发布会忽悠了。说点个人体会。这几年从各种渠道看了不少国产AI芯片我最深的感受是芯片设计能力在国内已经不算稀缺真正稀缺的是愿意十年如一日打磨工具链和用户生态的团队。流片成功只是一块里程碑让开发者愿意在晚上十一点还为你debug才是更难的胜利。如果只看谁发布了最强芯片名单每年都会变如果看谁让用户用得最省心能留下的才是真正值得长期合作的厂商。

国产AI芯片真实差距：从架构到工具链的选型指南

相关推荐

HAProxy负载均衡实战：从基础配置到性能调优

漫剧不是AI动画：情绪节奏与五幕流的工业化生产逻辑

大模型与AIGC技术发展现状及厂商选型指南

更多资讯

Pandas缺失值处理：类型识别、语义归因与工程化实践

YOLO系列全解析：从算法原理到部署实战

AI模型与算法区别及部署实践指南

DeepSeek-V4编程能力解析：从多语言协同到硬件感知代码生成

ComfyUI安装部署全指南：四层架构避坑实战

深度学习模型文件读写与格式转换实战指南

今日更新

基于YOLOv11的石油泄漏智能检测系统开发实践

AI行业变局：合规、Mod化与上下文管理的实战启示

计算机视觉与AI原生应用融合的技术实践

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？