先吐槽下,这个问题为什么有这么多相同的提问?
除了H20解禁,AMD那边的AI卡也有部分解禁了,为什么老美近期会解禁,一个是最近中美冲突缓和有关系,当然更重要的是国内厂商的技术突破。目前国内主要是两种技术派系,一是华为的昇腾 自研生态派系,另外一个是国内的兼容CUDA派系。

美国人也比较直接,指名点姓华为(虽然知乎上华为几乎成了过街老鼠,人人喊打的地步,但是在芯片这一块,黑子们还是很难黑的动)。这里需要说明下,为什么美国没有把寒武纪、摩尔线程、百度昆仑等厂商拿出来说事,本质原因就是寒武纪、摩尔线程等这些厂商都是走兼容CUDA模式,其次更多布局推理市场,再加上出货量比较少,对NVIDIA构成的危险并不大。
而百度的昆仑芯片,虽然目前性能指标强于华为910B/C的(毕竟台积电3-5nm先进工艺,轻松吊打国内n+2这种7nm性能都不到的工艺),但是他因为代工制裁等问题,一直是偷偷摸摸卖卡,搞得极为低调,而哪怕如此低调,昆仑的这一代和下一代卡都已经被台积电和三星拒绝,百度昆仑芯片的下一代芯片肯定是需要重新设计了(目前已经透露的消息是百度的下一代芯片是2nm制成,230的密度,而国产N+2只有100左右的密度,台积电5nm是170左右的密度,再加上台积电和三星工艺良率更高,单die可以做的更大,所以百度如果重新选择国产工艺,那么很可能只能做600mm2 100密度的die,这相比起台积电接近900mm2 170密度的5nm工艺或三星的230密度的2nm工艺,都是极其巨大的晶体管总量差距。昆仑芯片整体晶体管数量腰斩、甚至只有1/4的情况下,整个芯片不可能只改后端就可以使用国产工艺,必然需要整体重新设计,而整体重新设计后,也就意味着性能下降,也更加费电,更需要付出时间代价)
参考:https://sammyguru.com/samsung-no-longer-pursuing-baidu-2nm-ai-chip-orders-report/

回来继续看之前H20解禁的相关软文,会发现他们基本都把昇腾910B拿出来说事,H20整体性能优于910B的。我们来看下,920B和H20的主要参数对比。可以发现910B在算力上是高于H20的,但是在HBM内存、内存带宽、互联等方面是大幅落后的。而AI行业从业者也可以知道,HBM内存、内存带宽、互联性能在大部分时候是高于算力的。(910B因为是NPU架构,NPU架构控制单元比较少,所有晶体管基本都堆到了算力上,算力会好看一点,但是由于是HBM2e和H20的HBM3存在代差,HBM内存总量、带宽肯定会落后)
| NVIDIA H100(SXM) | NVIDIA H20(SXM) | 昇腾910B | 昇腾910C | |
|---|---|---|---|---|
| 架构 | Hopper | Hopper | DaVinci | DaVinci + UB Switch |
| FP8 | 3958 | 296 | 不支持 | 不支持 |
| FP16/BF16 TFLOPS | 1979 | 148 | B1:414 B2:376 B3:313 B4:280 |
C1:805? C2:752 C3:626 C4:522? |
| TF32 TFLOPS | 989 | 74 | 不支持 | 不支持 |
| FP32 TFLOPS | 67 | 44 | 约51-67 | 约102-132 |
| 内存带宽 TB/s | 3.35 | 4.0 | 1.56左右 | 3.12左右 |
| 互联技术 | 900GB/s NVLink | 900GB/s NVLink | 400 GB/s HCCS P2P |
800GB/s UB1 |
| GPU内存 | 80GB HBM3 | 96GB HBM3 | 64GB HBM2e | 128GB HBM2e |
| 功耗 | 700W | 400W | 350-400W | 700-800W |
其次H20原生支持FP8,在Deepseek大模型推理上H20性能是优于昇腾910B的。可以合理推测老美重新开放AI卡不是因为昇腾910B。
稍微对AI卡熟悉一点的就可以知道,华为目前在售的主力产品是昇腾910C,即将发布的下一代产品是昇腾910D。
先来说一下910C,它主要改良的是互联性能,和B一样,也是多版本的,分别是910C1 50核1.85G、910C2 48C 1.8G、910C3 40核 1.8G、910C4 40核1.5G,互联部分参考华为384节点的相关论文,论文地址:https://arxiv.org/pdf/2506.12708

910C的384超节点在NPU芯片(910C)上,外挂了一个UB Switch芯片(Huawei Unified Bus),这样的好处非常明显,优化Moe稀疏大模型场景下的All2All通信性能,解决昇腾910B互联通信问题,当然也受制于昇腾910B Die自身固有缺陷(昇腾910B 芯片2020年就已经完成设计并在台积电完成代工,当时未完成先进封装,2022-2023年解决HBM内存问题和先进封装工艺后,开始对外销售),整体性能提升也有限。C是两块910B Die胶水(非硅基板,直接胶水),HBM内存翻倍,达到128G,内存带宽也翻倍,但是毕竟是2020年的设计,Die2Die互联带宽相对比较低,只有540GB,针对大模型训练场景性能仍然不够,但是针对推理场景,对NVIDIA的H20有一定优势。
目前已经有人拆解了910C的Die(应该月底会有视频出来),可以看到910C的Die和910B是一模一样的,没有重新流片,当然个人感觉如果不拆那颗外挂的UB Switch,只拆910C,实际上没什么意义,和910B几乎没区别。
910B除了互联等问题外,还有一个被无数人吐槽的就是它的编程框架不友好(主要原因时昇腾910B缺乏控制单元),编程复杂度极高,导致生态推广进度比较慢。针对这个问题昇腾910D给了解决方案,通过把Vector算力改为SIMT(有点类似GPGPU,更好的支持稀疏计算加速),同时增加核内多线程,Tensor部分算力继续使用SIMD,增加Register File层级(Register-based SIMD)。
同时也进一步增强了互联,在910C UB1的基础上,发展出UB2,并在910D的Die上内置UB Switch,单卡对外的UB带宽在1.6TB/s以上,并实现了URMA(能够over在UB链路上的RDMA,参考夏佬的:LD/ST? 内存语义? 傻傻分不清),最大支持8192个NPU超节点。
要知道NVIDIA目前只实现了NVL72超节点,算上SuperPod(向外扩展)也只有NVL576,为什么差异会这么大,因为老黄不相信光啊,继续引用夏佬的文章:你相信光吗?
关于互联部分的故事也可以看夏佬的:CloudMatrix?UB-Mesh? 傻傻分不清

UB-Mesh的内容可以参考相关论文:UB-Mesh: a Hierarchically Localized nD-FullMesh Datacenter Network Architecture
也可以参考:UB-Mesh: 基于统一互联和高维直连拓扑的AI集群架构
同时910D还引入了CCU,提供独立指令,专门负责数据通信,更好的提升Moe大模型场景下All2All通信性能(这里Deepseek应该有话要说)。
在浮点精度上910D会支持fp8、hif8、hif4等精度,也解决了910B不支持fp8的尴尬。
所以910D才是黄皮衣口中的那个可能取代NVIDIA的那个芯片。

细心的同学可能已经发现了,华为的UB是可以接入CPU的,这个也可能就是海思既有鲲鹏又搞昇腾的好处吧。
不知道老黄会不会想起来曾经和IBM的那点往事,曾经在NVSwitch1.0上预留了18个port,在NVSwitch2.0上预留36个port,两代NVLink都等不到IBM power CPU在超算的崛起,终于在第三代NVSwitch3.0上只支持了64个port,彻底放弃了IBM。