13个回答

黄仁勋称轻视华为和中国制造的人都极其天真,华为芯片在AI训练中取代英伟达只是时间问题,如何看待该表态?

每日经济新闻
334个点赞 👍

先吐槽下,这个问题为什么有这么多相同的提问?

除了H20解禁,AMD那边的AI卡也有部分解禁了,为什么老美近期会解禁,一个是最近中美冲突缓和有关系,当然更重要的是国内厂商的技术突破。目前国内主要是两种技术派系,一是华为的昇腾 自研生态派系,另外一个是国内的兼容CUDA派系。

美国人也比较直接,指名点姓华为(虽然知乎上华为几乎成了过街老鼠,人人喊打的地步,但是在芯片这一块,黑子们还是很难黑的动)。这里需要说明下,为什么美国没有把寒武纪摩尔线程百度昆仑等厂商拿出来说事,本质原因就是寒武纪、摩尔线程等这些厂商都是走兼容CUDA模式,其次更多布局推理市场,再加上出货量比较少,对NVIDIA构成的危险并不大。

而百度的昆仑芯片,虽然目前性能指标强于华为910B/C的(毕竟台积电3-5nm先进工艺,轻松吊打国内n+2这种7nm性能都不到的工艺),但是他因为代工制裁等问题,一直是偷偷摸摸卖卡,搞得极为低调,而哪怕如此低调,昆仑的这一代和下一代卡都已经被台积电和三星拒绝,百度昆仑芯片的下一代芯片肯定是需要重新设计了(目前已经透露的消息是百度的下一代芯片是2nm制成,230的密度,而国产N+2只有100左右的密度,台积电5nm是170左右的密度,再加上台积电和三星工艺良率更高,单die可以做的更大,所以百度如果重新选择国产工艺,那么很可能只能做600mm2 100密度的die,这相比起台积电接近900mm2 170密度的5nm工艺或三星的230密度的2nm工艺,都是极其巨大的晶体管总量差距。昆仑芯片整体晶体管数量腰斩、甚至只有1/4的情况下,整个芯片不可能只改后端就可以使用国产工艺,必然需要整体重新设计,而整体重新设计后,也就意味着性能下降,也更加费电,更需要付出时间代价)

参考:sammyguru.com/samsung-n

回来继续看之前H20解禁的相关软文,会发现他们基本都把昇腾910B拿出来说事,H20整体性能优于910B的。我们来看下,920B和H20的主要参数对比。可以发现910B在算力上是高于H20的,但是在HBM内存、内存带宽、互联等方面是大幅落后的。而AI行业从业者也可以知道,HBM内存、内存带宽、互联性能在大部分时候是高于算力的。(910B因为是NPU架构,NPU架构控制单元比较少,所有晶体管基本都堆到了算力上,算力会好看一点,但是由于是HBM2e和H20的HBM3存在代差,HBM内存总量、带宽肯定会落后)

NVIDIA H100(SXM) NVIDIA H20(SXM) 昇腾910B 昇腾910C
架构 Hopper Hopper DaVinci DaVinci +
UB Switch
FP8 3958 296 不支持 不支持
FP16/BF16 TFLOPS 1979 148 B1:414
B2:376
B3:313
B4:280
C1:805?
C2:752
C3:626
C4:522?
TF32 TFLOPS 989 74 不支持 不支持
FP32 TFLOPS 67 44 约51-67 约102-132
内存带宽 TB/s 3.35 4.0 1.56左右 3.12左右
互联技术 900GB/s NVLink 900GB/s NVLink 400 GB/s
HCCS P2P
800GB/s
UB1
GPU内存 80GB HBM3 96GB HBM3 64GB HBM2e 128GB HBM2e
功耗 700W 400W 350-400W 700-800W

其次H20原生支持FP8,在Deepseek大模型推理上H20性能是优于昇腾910B的。可以合理推测老美重新开放AI卡不是因为昇腾910B。

稍微对AI卡熟悉一点的就可以知道,华为目前在售的主力产品是昇腾910C,即将发布的下一代产品是昇腾910D。

先来说一下910C,它主要改良的是互联性能,和B一样,也是多版本的,分别是910C1 50核1.85G、910C2 48C 1.8G、910C3 40核 1.8G、910C4 40核1.5G,互联部分参考华为384节点的相关论文,论文地址:arxiv.org/pdf/2506.1270

910C的384超节点在NPU芯片(910C)上,外挂了一个UB Switch芯片(Huawei Unified Bus),这样的好处非常明显,优化Moe稀疏大模型场景下的All2All通信性能,解决昇腾910B互联通信问题,当然也受制于昇腾910B Die自身固有缺陷(昇腾910B 芯片2020年就已经完成设计并在台积电完成代工,当时未完成先进封装,2022-2023年解决HBM内存问题和先进封装工艺后,开始对外销售),整体性能提升也有限。C是两块910B Die胶水(非硅基板,直接胶水),HBM内存翻倍,达到128G,内存带宽也翻倍,但是毕竟是2020年的设计,Die2Die互联带宽相对比较低,只有540GB,针对大模型训练场景性能仍然不够,但是针对推理场景,对NVIDIA的H20有一定优势。

目前已经有人拆解了910C的Die(应该月底会有视频出来),可以看到910C的Die和910B是一模一样的,没有重新流片,当然个人感觉如果不拆那颗外挂的UB Switch,只拆910C,实际上没什么意义,和910B几乎没区别。

910B除了互联等问题外,还有一个被无数人吐槽的就是它的编程框架不友好(主要原因时昇腾910B缺乏控制单元),编程复杂度极高,导致生态推广进度比较慢。针对这个问题昇腾910D给了解决方案,通过把Vector算力改为SIMT(有点类似GPGPU,更好的支持稀疏计算加速),同时增加核内多线程,Tensor部分算力继续使用SIMD,增加Register File层级(Register-based SIMD)。

同时也进一步增强了互联,在910C UB1的基础上,发展出UB2,并在910D的Die上内置UB Switch,单卡对外的UB带宽在1.6TB/s以上,并实现了URMA(能够over在UB链路上的RDMA,参考夏佬的:LD/ST? 内存语义? 傻傻分不清),最大支持8192个NPU超节点。

要知道NVIDIA目前只实现了NVL72超节点,算上SuperPod(向外扩展)也只有NVL576,为什么差异会这么大,因为老黄不相信光啊,继续引用夏佬的文章:你相信光吗?

关于互联部分的故事也可以看夏佬的:CloudMatrix?UB-Mesh? 傻傻分不清

910D是方案A,910C类似方案B

UB-Mesh的内容可以参考相关论文:UB-Mesh: a Hierarchically Localized nD-FullMesh Datacenter Network Architecture

也可以参考:UB-Mesh: 基于统一互联和高维直连拓扑的AI集群架构

同时910D还引入了CCU,提供独立指令,专门负责数据通信,更好的提升Moe大模型场景下All2All通信性能(这里Deepseek应该有话要说)。

在浮点精度上910D会支持fp8、hif8、hif4等精度,也解决了910B不支持fp8的尴尬。

所以910D才是黄皮衣口中的那个可能取代NVIDIA的那个芯片。

细心的同学可能已经发现了,华为的UB是可以接入CPU的,这个也可能就是海思既有鲲鹏又搞昇腾的好处吧。

不知道老黄会不会想起来曾经和IBM的那点往事,曾经在NVSwitch1.0上预留了18个port,在NVSwitch2.0上预留36个port,两代NVLink都等不到IBM power CPU在超算的崛起,终于在第三代NVSwitch3.0上只支持了64个port,彻底放弃了IBM。

Matterhorn
自由评论 (0)
分享
Copyright © 2022 GreatFire.org