12个回答

如何看待DeepSeek发布的新模型DeepSeek-Math-V2?

rubberball 皮球
685个点赞 👍

我觉得DeepSeek里面搞数学推理的团队可能是最有潜力的一张王牌。

为什么?

因为数学推理是所有 AI 推理任务里最苛刻的那一个

  • 没有情绪
  • 没有模糊答案
  • 没有“差不多就行”
  • 每一步都是严格逻辑链
  • 一处错误会全盘报废

我们平时问AI的问题大多数都可以接受模棱两可的回答,比如问情感类的,可以说怎么说都不算错;问英文问题,它有很多同义词近义词;但数学不一样。

数学是一个绝对不能“糊弄”的领域,它不像聊天应用可以模糊补全,不像文本理解可以靠语境兜底,更不像多模态展示那样可以靠“看起来不错”就糊弄观众。

数学要求的是:你到底是不是在真正思考?你每一步推理是不是都能自圆其说?

而这一点,恰恰是绝大多数大模型最容易暴露短板的地方。

因为如果训练的AI有问题,就连最简单的比大小,9.11大还是9.9大都会出问题。

绝大多数的大模型碰到数字,依旧当成文字来处理,所以搞出了很多乌龙。

但是只要数学题还是选择题或者只看答案,就依旧存在着蒙对的可能,DeepSeek的这个新模型,最核心的就是这一句:

correct answers don’t guarantee correct reasoning
答案对,但不能保证推导也对

我记得在上初高中的时候,老师会说,碰到不会的题,最起码你得写个解,并且能写几步写几步;特别是碰到填空题,一定不要空着,实在不行就填个0上去,其实蒙对的概率并不小。

为了避免这种情况,DS他们不是只在追求答案正确,而是在追求每一个推理步骤都可以被验证

因为答案对不对,只能告诉你模型“是否蒙对”。但能不能写出严谨的步骤,才能告诉你模型是不是真的懂。

为了做到这一点,DeepSeekMath-V2 在里面其实是走了一套典型的 verifier–generator dual-model 架构。简单说,就是把模型分成两个角色:

  • 一个叫 proof generator(证明生成器),专门负责把证明写出来,把整条思路摊开;
  • 一个叫 verifier(验证器),是一个 LLM-based verifier,专门负责挑错打分。

proof generator 的工作,就是像一个学生一样,从头到尾写出完整的数学证明;verifier 拿到这份证明,其实不太关心你最后答案是多少,而是一行一行去看:这里有没有跳步,那里有没有漏条件,有没有只证明一半就当全对了。

更重要的是,这个 proof generator 不是写完就交卷。论文里的做法,是让它在 verifier 的反馈下做 self-verification

先生成一版 proof draft → 交给 verifier → verifier 按照 verification reward model 的方式指出哪一步不严谨、哪一段有漏洞 → proof generator 再根据这些信号把证明重写一遍,把缺口补上,把有问题的地方删掉,最后再定稿。

换句话说,DeepSeek 在训练里是硬生生给模型养成了一个习惯:不是想到一个看起来还行的证明就完事,而是写完先自查一遍,看看哪里说不通,再修修补补,这就是他们说的 self-verifiable mathematical reasoning。

这样一来,最后答案对不对,只能告诉你有没有蒙对;而整个 reasoning process 能不能经得起 verifier 一轮一轮的检查,才真正区分出模型是装懂还是真的懂。

偷懒用Nano Banana生成,有些错别字,但不影响阅读

这里还有一个容易被忽略的难点:verifier 自己也得变强。

如果 proof generator 越来越能写复杂证明,而 verifier 还停留在“入门老师”水平,就会变成:老师根本看不懂学生写的高难度解答,要么乱判,要么只能给一些很模糊的评价。

DeepSeek 的做法,是在训练过程中不断扩大 verification compute:专门收集那些最难判、最容易纠结的 proof,把这些 hard-to-verify proofs 喂给 verifier,用更大的算力、更细的标注去训练它,让验证这一侧也持续升级,维持一个 generation–verification gap,让“老师”始终有能力看穿“学生”的小聪明。

还有一点也很关键,他们不再只是用 final answer reward 来训练,而是让 verifier 直接对整条推理链打分,相当于用 process-level 的奖励信号去约束模型。就像真正的数学阅卷,不是只看最后一行写了个几,而是把整篇证明拆开来看,每一步都要算分。

这等于把我们做题时最朴素的一套经验,完整搬进了训练系统里:答案可以偶尔靠运气蒙对,但过程要想次次写严谨,只能靠真本事。

并且DeepSeek的数学模型,水平跟前段时候刚刚刷榜的Gemini相差无几,甚至在一切设定要比Gemini还好用。

但问题是,Gemini等一众闭源大模型几乎都有一个特别的heavy模式,就是专门用来刷榜的,基本原理就是一次性运行多个推理任务,然后从里面优中选优。

简单点说,就是三个臭皮匠顶个诸葛亮。

而这正是 AI 未来最重要的能力之一:不是能不能变得更能聊、画得更像、音频更逼真,而是能不能参与真正的科学推理、工程系统、安全验证、数学创新。

这些都离不开可验证的逻辑链条。

所以,数学推理团队之所以可能是 DeepSeek 的王牌,并不是因为数学本身有多复杂,而是因为他们在解决 AI 最本质的问题:

如何让一个模型真正“思考”,而不是表面上看起来像是在思考。

如果一个模型在数学上能站稳脚跟,在逻辑链条这种零容错场景下都能保持一致性,那么它在其他推理任务上的表现,往往不会低的。

平凡
自由评论 (0)
分享
Copyright © 2022 GreatFire.org