18个回答

如何评价金融时报消息人士称DeepSeek R2在使用华为昇腾芯片训练的过程中持续遭遇技术问题?

AME.JK
113个点赞 👍

几个点来看,内容都不太真。

DeepSeek当初爆火,除了性能接近SOTA,还有一个很重要的就是团队在Infra上的强大能力,充分挖掘了NV硬件的性能,实现了较低算力需求下的SOTA级别开源模型。甚至我们可以说在当时的环境下,较低算力需求的价值一点不比SOTA要低。而能够实现较低算力需求的关键,其实也在于DS团队对于NV硬件充分吃透以后实现的诸多工程优化创新以及软硬联合优化。仅从这个点来看,抛弃之前在NV硬件和CUDA生态的长期积累,并不是一个合理的选择。

除了DeepSeek V3/R1,后续DeepSeek的NSA等工作,同样体现了DS团队对于NV硬件的熟稔以及Hardware-Aligned Algorithm重要性的认知。如果再考虑到NSA作为一项长上下文的相关工作,对于当前热门的Agentic AI来说至关重要,我们更应该押注的是DeepSeek团队在研发上的延续性,而这种延续性自然也意味着硬件的延续性。

第二点在于,华为Ascend系列NPU,在训练环境的软件生态并不完备(推理侧稍好一些),需要海思自己提供大量软件团队来配合客户进行适配优化。之前科大讯飞就与HW有过这方面的互动与合作,也确实在纯国产芯片上训练出了一个所谓的“全自主可控”的模型。但且不说海思是否还出得起(大概率可以)同等强度的资源来配合DS,单纯从DS自己的研发进度与强度要求来看,在大模型本身就已经是足够复杂的工程的情况下,盲目引入新的复杂度,并不明智。

最后一点在于,国内其实没有那么缺卡。NV高端算力禁令这个事儿,有点“你懂的”的意味。这点不用展开太多,用一张图其实就可以解释清楚了。

还没有人送礼物,鼓励一下作者吧
从不毒舌可达鸭
自由评论 (0)
分享
Copyright © 2022 GreatFire.org