B200的主要进步，包括

1）使用先进封装，把两块GPGPU整合。这方案在Apple的芯片上已经采用很多年了。

2）使用FP4，提升算力密度。这个方法难度也不高，不过目前全世界使用FP4的还很少。

感觉B200的创新有点乏力了

结论

今年发布的Blackwell明白无误的告诉大家摩尔定律不在神奇了，之前NVIDIA的可扩展的GPU架构搭配摩尔定律可谓摧枯拉朽，让大家难以望其项背；而现在NVIDIA发布会对于芯片本身特性基本一笔带过，而重点都在DGX系统上，也就是芯片内部依靠摩尔定律扩展基本到头，后面扩展主要靠芯片间互联来完成了。另一个就是这种算力的提升并没有宣传中那么夸张，像NVIDIA展示的8年里AI算力提升了1000X，主要靠的是数据精度，从最开始高性能计算的FP64，FP32，FP16，到FP8，FP4。

而对于芯片间互联，分成两类：

• 一类是D2D,也就是通过interposer实现die之间互联，这种一般是高速并行接口，可以提供TB级别的带宽，主流技术有TSMC的CoWoS，Intel的EMIB等，今天发布的Blackwell就是采用D2D将两颗die互联封装，可以提供10TB/s的带宽。

• 另一类就是NVLink为代表的芯片间互联，业界推出的就是UCIe标准。Blackwell已经演进到第五代了，搭配NVLink Switch芯片，可以提供7.2TB/s总带宽，支持GPU进行纵向扩展。

当然，还有一类是采用Infiniband和Ethernet进行横向扩展，这些一起组成了NVIDIA的DGX系统。

总而言之，现在对于NVIDIA的竞争者，工艺不再是问题，比拼的重点在互联，不管是die内互联，还是片间互联，甚至网络互连，如何组成更高带宽的系统才是关键。

Nvidia的Blackwell GPU有点意外也有点没意外，性能基本和晶体管规模正比，这回确实堆料了，意外的是FP4 居然被拿出来算了，4bit的浮点就只能表示一点点数值啊.. ​​​

用了2.6X晶体管，但是FP32提升很少。 可以说已经是纯纯的NPU了.. 晶体管都给了Tensor Core….

另外也是高级胶水的Chiplets了，因为工艺没明显改进还是台积电的N4P（一个节点），所以售价可能也是3倍往上了？

英伟达在GTC 2024会议上展示了其新一代Blackwell架构GPU及一系列AI芯片和软件应用的创新成果，不仅凸显了公司在算力芯片、服务器和AI软件层面的卓越进展，也为投资者描绘了一个充满机遇的未来蓝图。
在GPU领域，英伟达推出的Blackwell架构堪称一项技术革新。特别是其中的B200芯片，这款拥有2080亿个晶体管的强大芯片，采用台积电定制的4NP工艺制造，将两个GPU die通过高达10 TB/秒的芯片到芯片链路连接成一个统一的GPU，这无疑是业内的一次重要突破。而其内置的第二代Transformer引擎，凭借扩展支持和先进算法，支持了更高效的4位浮点AI推理功能，使得计算和模型规模得到了双倍的提升。
此外，Blackwell架构还带来了第五代NVLink技术的革新。每个GPU的双向吞吐量达到了突破性的1.8TB/s，这一性能提升为处理复杂的大语言模型提供了无缝的高速通信能力。不仅如此，Blackwell架构还引入了专用的RAS引擎，实现了可靠性、可用性和可服务性的提升，使得大规模AI部署能够连续运行数周甚至数月，显著降低了运营成本。同时，通过先进的机密计算功能，Blackwell架构还在保护AI模型和客户数据方面展现了出色的安全性能。
在硬件层面，英伟达不仅推出了B200芯片，还进一步研发了GB200 Grace Blackwell超级芯片。这款超级芯片由两个B200芯片和一个Grace CPU组合而成，其大语言模型性能提升了惊人的30倍，而能耗仅为原来的二十五分之一。这一成果无疑将推动AI计算进入一个新的里程碑。
除了芯片，英伟达还发布了一系列与之配套的新硬件产品，包括第五代新NVLink芯片、GB200 NVL72服务器、X800系列网络交换机以及下一代人工智能超级计算机NVIDIA DGX SuperPOD等。这些产品的推出，进一步巩固了英伟达在高性能计算领域的领导地位，也为企业提供了更多选择和可能。
在软件层面，英伟达同样展现出了强大的创新实力。英伟达AI Enterprise 5.0推出了一系列微服务，其中的NIM微服务旨在简化企业将AI模型部署到生产环境中的过程。通过打包算法、系统和运行优化，并添加行业标准的API，NIM微服务极大地简化了AI模型部署的复杂性，使得开发人员能够更轻松地将AI技术集成到现有的应用程序和基础设施中。
同时，英伟达还进一步扩展了其在数字孪生和视觉处理方面的技术实力。Omniverse云的更新使得开发者能够将工业场景从内容创作应用程序发送到Graphics Delivery Network（GDN），从而实现3D体验的流式传输到Apple Vision Pro。这一技术结合为空间计算体验带来了前所未有的提升，为企业和用户提供了更丰富、更沉浸式的视觉交互体验。
在跨领域合作方面，英伟达也展现出了积极的姿态。公司与台积电、Synopsys等半导体领域的领军企业展开合作，推动技术创新和产业升级。此外，英伟达还在电信、交通运输和机器人等领域展开了一系列合作，旨在推动这些行业的智能化和数字化转型。

总的来说，英伟达在GTC 2024会议上的展示充分展现了其在AI芯片、服务器和软件应用方面的强大实力和创新精神。无论是Blackwell架构GPU的推出，还是一系列新硬件和软件的发布，都为企业和开发者提供了更强大的工具和平台，助力他们推动数字化转型和智能化升级。未来，我们有理由相信，英伟达将继续引领AI技术的发展潮流，为人类社会带来更多的创新和进步。

Blackwell架构的六大技术突破，无疑为英伟达在AI计算领域的地位增添了重要筹码。首先，2080亿个晶体管的采用，以及台积电定制的4NP工艺制造，使得这款芯片在性能上达到了新的高度。同时，通过高速的芯片到芯片链路，两个GPU die得以无缝连接，形成了一个更加强大的计算单元。

第二代Transformer引擎的引入，使得Blackwell在AI推理方面有了显著的提升。新的micro-tensor驱动以及先进的动态范围管理算法，使得这款芯片能够支持更大规模的模型和更高效的计算。此外，4位浮点AI推理功能的实现，进一步提升了计算效率和模型规模。

第五代NVLink技术的推出，为GPU之间的通信提供了前所未有的速度和稳定性。1.8TB/s的双向吞吐量，使得Blackwell在处理大规模AI任务时能够保持高效的数据传输和通信。

专用RAS引擎的加入，使得Blackwell在可靠性和可用性方面有了显著的提升。这一引擎能够实现预防性维护，及时发现并解决潜在问题，从而提高了系统的稳定性和可靠性。

安全AI功能的实现，为AI模型和客户数据的保护提供了有力保障。通过先进的机密计算功能，Blackwell能够在不影响性能的情况下保护敏感数据，为隐私敏感行业提供了重要的支持。

解压缩引擎的引入，使得Blackwell在处理大规模数据时能够保持高效的性能。通过支持最新格式和加速数据库查询，这款芯片为企业提供了更强大的数据处理能力。

游戏是鸦片。

然后人家玩着玩着玩出了顶尖科技。

我们把所有人赶去玩八股文，玩出了遥遥领先的公务员经济。

大家都有光明的未来。

这次NVIDIA给大家演示了，如何在没有工艺提升的情况下用相同的功耗实现2倍甚至4倍以上的性能。

那就是：加钱。

同样是4nm，B200的晶体管数量是H100的接近3倍，显存也是2.5倍，没有工艺红利，老黄也只能用高速互联来双芯硬堆料了。成本和芯片规模的暴涨带来了单位功耗性能的暴涨。

之前很多手机CPU发热巨大，被很多人归结于核心太大性能太强，高分低能，实际上发热大恰恰是核心太小性能薄弱的表现，只能靠拉高频率用高功耗来换取一个看得过去的性能。而真正的堆料王者，恰恰都有极其优异的能耗比表现。

芯片这个东西就是一分钱一分货，工艺不变，想要功耗低，你就得多堆晶体管，没有别的途径。

当然，这次B200的架构升级也是蛮大的。

晶体管数量增加了接近3倍，FP64性能只增加了30%左右，可谓是对超算用户极不友好了。剩下的晶体管都拿去堆tensor core和transformer引擎了，FP16 Tensor的性能暴涨5倍，GPU现在越来越像NPU了。

NVLINK这次也实现了带宽翻倍，进一步拉大了跟其他竞争对手NPU的差距。在大模型时代，NVLINK才是决定芯片真正能发挥出多少算力的关键。

B200出来了，A100应该算古董落后技术了吧？美国什么时候能解除制裁？如果国产厂商用类似B200的架构在7nm工艺下制造芯片，算力碾压A100是非常轻松的。B200晶体管数量是A100的四倍，FP16性能是H100的5倍，也就是说A100级别的GPU其实可以实现H100级别的性能了，制裁A100真的还有必要吗？

总结放前面：

1. B100相对H100在 单die上提升总体约25%。 计算单元tpc数量提升10%。通过双芯组成MCM形态将性能叠加到2.5倍。
2. 显存颗粒单die配备由6颗减少为4颗， 在MCM形态下配备8颗显存。 颗粒数量提升33%. 由于HBM3e容量为24G，相较 HBM3 16G颗粒提升 50%。单卡显存容量从80/96GB 提升到192GB. 未在首发使用36GB颗粒，未来有较大可能升级出288GB版本。 (288G可解锁130B fp16模型推理)
3. 性能提升主要贡献来自拼装2die为单die。 显存容量提升主要来自颗粒存储行业单片容量的提升。
4. 引入了新的fp6和fp4特性。

看图猜规格1:

按照镁光给出的HBM3e大小为参照物，估算尺寸。 die size应该是单die 800mm2，单片由两个die缝合， 约1600mm2面积。

单die和上一代大小基本一致(800-814mm). 尺寸没有新的突破。

双die缝合为一个芯片， 硅基板的尺寸>2000mm, 应该是目前已知最大的CoWos封装。

首发配备的应当是24GB的颗粒。

单片MCM显存应当有192GB和288GB两个规格。

A/B两个区域不对称， 排除3die 4die配置出现的可能。

H100 晶体管数为80billion. B100晶体管数量为208（单die 104）. 在同样800mm2的情况下， 晶体管数量从80B提高到104B， 密度提升约30%。 同样使用TSMC 4N, 但在制程上或是设计上有改进。

从第一张图上的dieshot观察， tpc数量从72个提升到80。 预计SM数量160单die, 一共320SM。如fp32 和H100 1:1 按照H100的CUDA Core算法 ,双Die MCM形态下 40960个CUDA Core.

算力在fp8上单片是H100的 2.5倍，单die应当是h100的125%(与晶体管增加量基本匹配)， 也就是2500TFLOPS fp8. 由此可以推断GPU频率与H100系列大致相当,参考TPC数量的提升，最大提升10%频率，应小于1850MHz。

2die封装后拼装为5p fp8的算力(非稀疏)。 或者10p fp4算力.

DGX形态下的8GPU的 B200 首发显存1440GB， 后期可以最大释放到2304GB，单节点可推理>1000B的 fp16模型. 单卡可完成130B fp16模型推理。

遵循英伟达每两年更新一次 GPU 架构的传统，老黄带来的第一个重磅产品便是全新的 bigger GPU——Blackwell 平台。他表示，Hopper 很棒，但是我们需要更强大的 GPU。

Blackwell 架构的命名是为了纪念首位入选美国国家科学院 (National Academy of Sciences)的非裔学者 David Harold Blackwell。

在性能上，Blackwell 拥有 6 项革命性技术加持：

* 世界上最强大的芯片：Blackwell 架构 GPU 采用定制的 4NP 台积电工艺制造，内含 2080 亿个晶体管，通过 10 TB/秒 的 chip-to-chip 链路，将两个极限 GPU 芯片连接成一个统一的 GPU。 第二代 Transformer 引擎：Blackwell 将基于新的 4 位浮点人工智能推理能力支持双倍的计算和模型规模。

* 第五代 NVLink：最新迭代的 NVIDIA NVLink 为每个 GPU 提供了突破性的 1.8TB/s 双向吞吐量，确保在多达 576 个 GPU 之间进行无缝高速通信，以实现最复杂的 LLM。

* RAS 引擎：Blackwell 驱动的 GPU 包括一个用于可靠性、可用性和可维护性的专用引擎。此外，Blackwell 架构还增加了芯片级功能，利用基于 AI 预防性维护来运行诊断并预测可靠性问题。这最大限度地延长了系统正常运行时间，提高了大规模 AI 部署的恢复能力，使其能够连续不间断地运行数周甚至数月，并降低运营成本。

* Secure AI：可在不影响性能的情况下保护人工智能模型和客户数据，并支持新的本地接口加密协议，这对医疗保健和金融服务等隐私敏感行业至关重要。

* 解压缩引擎：专用解压缩引擎支持最新格式，可加速数据库查询，为数据分析和数据科学提供最高性能。

目前，AWS、谷歌、Meta、微软、OpenAI、特斯拉等企业都已经率先「预约」Blackwell 平台。

一、
老黄确实能炒作。
其实AI爆发还需要几十年，性能再翻几万倍还差不多，现在远远不够的。

二、
有的人总把超车、第一、不吃、不预、砸脚、跳崖........
你能想到的词都用个遍。
还是这些人，又总说被卡脖子，发展中，也不管矛盾不矛盾。

三、
另一国则是搞笑。虽禁止A100出口，却不禁A800出口，也不禁Grok。
还有更早些年的加区区40%关税措施。其实某国生产一双袜子成本是5美分，卖到另一国是5美元，关税要4000%才没利润。

【复制粘贴自相似问题】

英伟达没活了

2个更大的die（每个都比H100更大，因此>2x面积）实现2.5x晶体管数量，2.4x显存容量和带宽，宣称2.5x性能

（如果没涨价就是老黄让利了）

相当于大幅加强互联，再配合chip间互联和node间互联的加强

看到这些，我为人类的未来感到欣喜，又为中国的未来感到巨大的担忧

近十年互联网的部分成功，让部分中国人认为仅仅依靠应用可以和美国平分天下，培育了大量工程师，却没有培育杰出的基础领域所需人才和土壤

全民直播带货，沉浸在抖音岁月静好的花花世界中不思进取。出点矛盾就转嫁给资本家、企业家。市场经济的法治建设几乎毫无进展，也就怪不得大量的外资、风险投资人离开

看看我们的科技圈都在干嘛？小米还在为su7定价发愁；一直以来被卡脖子的芯片制造也完全不见啥起色，还闹出技术负责人差点出走的闹剧；

有个技术不错的华为，却被天天嘲讽，真是一群又蠢又可怜，整天盯着三瓜两枣的不放的精致利己主义者

企业困在中国市场，无法获取大量的海外市场和利润，内卷加剧也就不为奇怪

不知面对着英伟达用游戏，视频，元宇宙训练出来的机器人已经可以进行家务劳动的人形机器人，金灿荣先生如何评价他的

“人工智能不见得就是第四次工业革命”

“中国2025工业引领第四次工业革命”

“美国AI花拳绣腿，只能写诗画画，中国AI是实体经济”

“中国2025 GDP世界第一”

“元宇宙就是美国资本炒作发明概念”