字节的HC超连接，占有六到七成贡献，提出了新的技术范式。
DeepSeek的mHC流形约束超连接，占有三到四成贡献，大大提升了大模型上的可用性，补齐了稳定性和经济性。
大概可以理解为：字节豆包搞出来一个核聚变方案，DeepSeek给他套了一个托卡马克环。（mHC这个词看起来就像核工业里面的名词。笑）
字节的HC，是一种高爆美学，初衷为了解决预/后层归一化问题（这是残差连接的一个顽疾，在炸膛和钝化中做选择）。
残差连接（无论是 Pre-Norm 还是 Post-Norm）都有一个共同的局限：它们预先定义了层输入与输出之间的连接强度，而不是让神经网络自主学习最优的连接比例。
字节提出了全新的“物种”，在所有人都还在传统的 Residual Connection里打转时，字节跳动第一个跳出来说：要搞加法？为什么不能是矩阵乘法？
这是HC的一个爽点。
证明了“可行性”，字节不仅提出了想法，还在 1B 和 7B 这种中小规模的模型上跑通了，证明了这种疯狂的架构不仅能跑，而且收敛速度还能快 1.8 倍。
但由于缺乏约束，它会“开锅炸膛”，最大的坑是显存带宽，HC连接矩阵自由生长，导致信号在多层堆叠后出现“指数级爆炸”。
字节虽然在 7B 模型上跑通了，但 DeepSeek 在跑 27B 甚至更大模型时发现，原始的 HC 跑到 1.2万 步左右就会“开锅”（Loss 突然飞升，梯度乱跳）。
这车好是好车，就是开久了会掉坑里，还会滋滋冒烟。（在27B模型下， 原始 HC 由于缺乏约束，其复合映射的增益强度峰值达到了3000）
DeepSeek 指出 HC 的核心问题是破坏了“残差连接的恒等映射”，于是引入 Sinkhorn 投影算法把矩阵框死在“双随机流形”里，这就是m流形，这个词的来源。
HC 虽然参数少，但特别吃显存带宽。DeepSeek 为了能让这个技术在超大模型上用得起，搞了 Kernel Fusion 和 DualPipe。
从残差连接（加法）→字节HC（无约束的矩阵乘法）→DeepSeek mHC （流形约束的矩阵乘法）
这是一个经典→跳跃→优化的一个历史流变。