如何评价 DeepMind CEO 看中国AI「毫无创新,但跟进速度可怕」的观点?
- 780 个点赞 👍
其实就是他怕了。
现在Gemini3.0的正反馈和月活都在大幅增加,GPT已经感受到了很大的压力,并且奥特曼在内部信件中,对员工说Google可能会领先一段时间。
Gemini上个月从GPT那边抢了非常多的客户,并且Gemini的模型应该是比GPT规模更大的,所以GPT的前端和后训练做的都很好,但是模型本身的潜力低于Gemini了。
就是说接下来一年Gemini可以不断的更新和调整Gemini3的各种前端能力(代码,回答问题的方式贴近客户,增强搜索能力,降幻觉,提高token生成速度等等),而GPT的底模已经修到极限了,没有更大参数的底模,GPT很可能会继续丢失客户,再这样下去一年不到的时间,可能GPT就会失去第一的宝座。
因为Gemini3的底模参数大,所以Gemini的理解能力是超过GPT的,这就导致GPT再怎么调整图片功能,还是不如Nano banana pro。现在内部流出的GPT最新图片生成功能做出来的图,还是赶不上Nano,这就很尴尬了。说白了你底模不行,对光影,人物,建筑布局的理解不够,生成的东西就比不上参数高的,再怎么搞强化学习也没用。
所以从Google的角度,OpenAI已经不足为虑了,照现在的节奏,只要长期战打下去,OpenAI必败。因为在力大飞砖的扩大模型参数的训练上,Google可以继续扩大,而OpenAI不知道是技术储备不足,还是人才被挖角后出现了断层,总之在扩大模型上,OpenAI慢了一步,那一步慢步步慢,后面再追回来就没那么容易了。
最近英伟达的黄仁勋突然出来说和OpenAI的协议是个意向协议还没确定,也就是说OpenAI和Google之间的竞争,让后面这些大企业突然不敢下注OpenAI了,有退缩的趋势。
也就是说Google在美国国内表面客户的数量以及ai上的收入不如OpenAI,但实际上Google已经胜券在握了,因为Google上领导层可能对自己的人才和技术储备,以及基础设施和算力,等各方面都是非常有信心的,认为未来自己的模型会越来越强,而OpenAI已经赶不上了。
当然我说这么多,可能会有人以为我审错题了,以为我在评价OpenAI和Google,其实不是,我只有把铺垫做足了,才能把接下来的道理讲清楚。
就是Google并不在乎OpenAI的竞争,Google也从来没把anthropic这种小公司放在眼里,Google要的是制霸全球,它认为它已经接近做到了。
但是deepseek才是Google真正的大敌,Google的高层心理非常清楚。
为什么我说的这一点,我们国内的很多人实际使用感受并没有觉得deepseek有这么厉害呢。就是很多人其实很难去区分模型本身的能力,和前端优化对接客户的能力。
我写帖子面向的是社会大众,所以把很多可能了解ai的人都明白,但是不太熟悉的人还是需要额外的解释才能更明白我在说什么的东西,我详细说明一下。
一个ai模型本身分为预训练和后训练,最后还有推理阶段。
训练就是塑造一个ai模型,预训练就是把数据喂给ai,让ai自己寻找数据之间的规律,然后形成模型,这一部分大半时间是ai在进行黑盒作业,你不知道它找到了什么规律,你只知道它自己形成了一套对语言规律的自己的理解。
而后训练就是在模型形成了一套自己的逻辑后,人类用一套人类的理解来对ai模型生成的内容进行打分,因为内容是概率生成的,所以随着人类对平行生成的内容不断打分,ai就会倾向朝着高分内容的方式去回答所有问题,以让模型的答案更符合人类的需求。
OpenAI和anthropic就是后训练阶段投入的资源非常大,所以OpenAI的模型你别管是不是比Google小,但它回答的问题严肃程度,回答问题的方向,以及回答问题的语气和方式,都经过了人类专家大量的打分,所以在实际应用中,你会感到GPT回答的内容非常有效率。
而情商高的时候,安慰你又非常妥帖,因为这是经过无数人类的博士专家经过给ai打分,培养出来的回答方式。
anthropic因为专精代码和写作(近来已经逐渐放弃写作),所以在代码生成的逻辑上下了很大功夫,它的bug会相比其他ai少得多,对程序员常见的要求会快速领会。
所以后训练究竟针对哪一部分内容强化学习,就决定了这个模型回答的风格。这也是为什么deepseek用起来,可能感觉不如很多其他国产模型的原因。
因为像豆包,它知道它的使用人群一般拿自己干什么,所以豆包在后训练阶段就强化了这部分内容的学习,它对网络用语,一般的查词搜索,文案总结,生成文字,都会让你觉得更贴心,觉得比deepseek强得多。
这其实是针对客户的一种内容优化,但是如果你一旦深度使用,并不仅仅是拿它做几道初中数学题,或者写几篇没营养的稿子,而是就某些技术细节进行下一步的交流,ai的理解力就不行了。
而kimi和qwen就在另一个阶段优化,前面说过除了预训练和后训练之外,还有一个推理阶段。
推理阶段就是指的,在使用者问了问题后,ai进行回答的阶段。
在预训练和后训练,已经确定了ai的能力和ai回答方式后,在推理阶段,可以通过调整思考链的长度以及思考链的思考方式,来优化回答的内容。
思考链越长,允许生成的内容越多,往往回答越好。所以即便是同样的底模,同样的后训练,仅仅通过扩充思考长度和回答内容的长度,你就可以感觉回答内容水平直线上升。
当然增加思考链长度,必然带来token的大幅度增长和token生成速度的减慢,但它满足了部分客户想要优质回答的高端需求。
这也是为什么deepseek感觉现在并不出彩的原因。
一方面ds没有多模态,现在市面上大部分的ai都可以通过上传文件,图表,图片来辅助回答内容,另一方面ds没有进行前端的维护,没有对客户人群的需求和回答内容进行后训练和优化,所以你会感觉ds既不贴心,也没用,这种感受都是很正常的。
用代码远不如Claude,opus和codex,问一般问题和识别图片不如豆包和元宝,想要丰富内容感觉不如qwen max和kimi给力,做广告设计,生成图片,ds连功能都没有,更不用说和Gemini的差距。
所以我现在讨论的是模型本身的参数能力,不是模型面对客户时体现出来的能力。
现在在使用中,美国的几家ai无论是ChatGPT做论文搜索和数据核实,opus写代码,Gemini做文章整理和设计,生成设计图,都更值得付费,这也是事实。
但是我讨论的不是现在,我讨论的是未来。
而讨论未来谁的模型最终主导世界就看两点:1.谁家的模型生成的内容质量更高,或者说模型更聪明;2.谁家的模型更便宜
在便宜上,deepseek是无敌的,这点不用说。所以只要deepseek的模型和Google的模型处于同一水平线,deepseek就必胜。
那么接下来我们重点讨论deepseek和Gemini底模的对比。
而讨论底模的能力,就要讨论底模的智力,讨论底模的智力就要有量化的标准。
而测试一个底模的智力,究竟用什么样的标准最客观,简单的说,就是要有一些测试题,模型从来没见过,这些题和类型不在模型的知识范围内,它通过自己的逻辑推理能力和基础的知识,独立解决了一道没见过的题(工程),这才能证明模型的智力。
而在这些测试题中,现在让ai去解决依赖现实中收集数据和反馈的问题很困难,也就是说物理化学以及工程类代码类的问题,在ai没有全面理解的前提下,得出来的答案虽然可能猜的准,但是不太客观,因为ai可以依据网上同类型的知识和答案,靠概率蒙,而且大概率还能蒙的很准。
那么现在最客观的标准就是每年新出的国际奥林匹克数学大赛。
国际奥数题满足几个条件:它足够难,咱一般人都不会做;它要验证的步骤足够多,证明题也需要步骤,没得取巧;它足够新,你找不到答案;它足够有创造性,不能靠死记硬背做题库就行的;国际大赛足够权威,大家谁都可以做,也谁都认可。
虽然没有明确的消息,但依据目前国际上主流的观点,Gemini3的参数量最大,GPT5.1和deepseek v3.2未知,两者可能接近。
那么假设这三家的ai都没有作假,都没有在后训练阶段做一些专门题库的针对性训练,仅仅依靠模型本身的泛化解决问题的能力,目前GPT5.1据说在开放思维链长度的特殊模型中(我们目前无法使用),和Google最顶级的deep think,以及deepseek v3.2 speciale,都可以达到imo金牌水平。
我相对认为Google的水平是真实的,因为ultra会员是可以使用这个模型的,OpenAI还不太确定,但是至少应该不会差太远。
而最神奇的就是deepseek,因为speciale这个版本是开放的,它就是用deepseek v3.2的底模做了针对解决数学的调整,特化出的解决数学题的模型。
那么为什么我说deepseek这个不算针对题库进行的训练呢,因为ds做的后训练改良不是针对题库,是针对思考方式。Deepseek的知识量还是24年底那个v3底模,只是改进了它的思考模式(学生,老师,监督),进行交错思考,通过提高逻辑能力,在没有增加任何数学知识和数学题库的前提下,做到了imo金牌。
而v3的底模,那已经是1年前的东西了,Gemini3可是10月份最新的模型,在ai届,天上一天,地下一年。过了10个月,跟过了10年一样。Gemini3底模的能力是远远远远强于v3底模的。
v3只是一个2000块h20的阉割版,用500万美元训练出来的。而就像anthropic的小模型,那都是用几亿美元训练出来的,更不用说GPT和Gemini。
所以现在可以得出一个结论:在ds没有进行更大参数规模训练的条件下,ds使用一个过时的底模,仅仅依靠工程改良的技术,就已经使得ds的推理能力,也就是智能,达到了远比它指数级强大的Gemini模型同样的水平。
这也就是说,为什么deepmind CEO会说ds没什么创新,但跟进速度可怕的原因。
现在Gemini的ultra会员250美金一个月,deepthink可以一个月使用30次。而同样推理能力但是世界知识稍弱的deepseek speciale是可以免费部署,并且在一些集成ai的中介商那里,只充几块钱,就可以得到deepthink一样的推理能力。
这样的对比还用我说什么不?
而ds在上次speciale更新时,发表的技术报告里面明确说了,ds经过这一年的技术打磨,现在可以进行下一步更大参数的底模训练了。
也就是说,我们春节或者稍微靠后一点,就会看到和Gemini同样规模参数,同样理解力,同样直觉能力的deepseek v4(或者r2 ?),并且很可能在ai在更大规模的泛化能力提升后,或许推理能力会更进一步的提升。
这对Google又会是怎样的打击?
而众多国产ai在掌握了v4的技术后,又可以进行改良,生成更多位面,针对不同客户的ai,豆包的图片生成能力将至少达到Nano pro的水平,甚至到时候ai图片已经和真人照片几乎没区别的程度。
而以中国模型的性价比,不是免费,就是几毛钱,Google那个250美元的会员还会有人用么。
所以Google在deepseek speciale这个版本出来后,应该是心惊胆颤的等待ds下一个大规模版本的升级。
到时候很有可能国产ai会把美国的ai逼到死胡同。
那么文章到这基本就讲完了,4千多字的废话。但是还有一点补充,可能还要说一下。
那么明年后年,有没有可能OpenAI和Google通过更高算力的显卡,再扩大参数规模进行训练,搞出更智能化的ai,然后进一步超过ds的v4,然后国产ai又要重新追赶美国ai,比如GPT6或者Gemini4什么的?
有这个可能性,并且很有这个可能,但是。
我说但是,这里面有一个工程问题,需要科普一下。
就是更大规模的参数训练并不是一件简单的事,我用金融知识或者数学知识来解释【过拟合】这个概念。
假设我们有一张股票走势图,我们想训练一个ai炒股,我们把这种股票走势图的数据喂给ai,让ai来反复学习其中的数据,寻找数据中的规律,最后找到一些数学公式(量化里叫因子),我们拿这个数学公式来炒股。
那么我们的显卡如果算力不够,电力也不够,我们做一个礼拜的数据训练,最后ai学到的知识大概是,突破波段的时候,买入最终盈利的概率大。
我们拿这个ai来炒股,可能会盈利个1%。
这个时候我们就想了,假如我更新我的显卡,加大电力的投入,准备个100w,让ai训练一年,那这样的ai出来炒股,不就无敌了?
结果你会发现,这个在测试里可以盈利1000倍的高端ai,在真实股市里把本金亏了90%。
那为什么用更大参数,更大算力,消耗更多时间训练的高端ai,反倒不如乞丐版ai呢?
根本的原因就是【过拟合】这个概念。
因为高端ai在反复的读取过去的那张图,反复的训练,反复的测试,所以它把一些原图中随机的价格变化理解成了必然会发生的事,所以由此它训练出了一些毫无必要的关联关系,而这些关联在新的市场中是完全无效的。
所以ai对数据读取和训练的越多,过拟合的问题就严重。
这也是为什么股票市场很难有一个绝对的圣杯模型,毕竟依据过去市场搞出来的ai,在未来可能完全不顶用。
而在ai模型的训练上,过拟合是个巨大的工程问题。也就是说,模型并不是参数越大越好,随着参数越大,很有可能模型的泛化能力减弱,模型特化的能力加强,这反倒会削弱模型的质量。
这也是为什么外界会传出OpenAI可能近一年都没有成功训练出更大模型的原因,只能在后训练这些边边角角进行改善。
因为当一个团队的工程能力不足,参数提高后,模型质量下降的问题非常难以解决,甚至无法解决。
只有更高技术和更高工程能力的团队才能在这方面前进。这也是为什么面对Gemini3的出现,OpenAI如此惊慌。
因为OpenAI可能认为现在的规模已到上限,再往后更爱参数的训练需要旷日持久的技术突破,结果没想到Google这么轻松就做出来了。
这也是为啥Google面对OpenAI如此自信的原因,他觉得后面的ai比赛他们赢定了,Google手里有一堆的论文和前沿科学家,Google还没达到上限,而OpenAI已经显露颓势了。
但是ds就不一样,ds这一年别的没干,ds就专门进行工程上的改良,ds的人才密度和工作效率并不比大拿科学家集团的Google差,ds是专攻工程问题。
以ds在工作报告叙述开始准备下一代底模的肯定语气,感觉跨越过拟合这个工程问题,对ds来说轻轻松松。感觉ds不是做不到更大参数底模,而是不着急做,优先解决其他技术难题为v4做技术铺垫。
所以这场仗,好戏还在后面,我们等着看春节ds会不会发布新的一代,到时候很可能会非常惊人。
查看全文>>
黑兵 - 52 个点赞 👍
查看全文>>
兔斯基 - 18 个点赞 👍
首先,我想说世界不是只有中国和外国两个国家,当人家说我们抄袭的时候,实际上你去看全球其他国家,包括欧洲、日本等,都还停留在决心、计划等阶段,上桌的机会都没有。
当美国以产业空心化为代价,重点发展硅谷,集中各种资源,搞出ChatGPT、搞出卫星通讯、把人类送上火星的时候,中国的基础性制造业,已经遍布全球,渗透到了全球每一个角落,影响着全球大部分人的衣食住行。
很多国家,可以不用ChatGPT,可以不去火星,但很难不用中国制造的商品。
关键是,中国也没有落下对人工智能、卫星定位/通讯、生命科技,以及火星探索等领域的追逐。
很显然,不用妄自菲薄,更不用逮住机会就反思,美国有的,中国是有机会追上的,而中国有的,美国已经很难再做到了,因为中国不是从点或线上面的追赶和覆盖,而是一整张网的覆盖和积累。
其次,那些动不动就说抄袭的人其实就是美国的AI当成神了,因为只有“神迹”才不可超越,不能讨论,而科学从来都是能够复制,能够扩展的。
这就类似GPT刚出来额时候也是一顿吹,后来有了deepseek,奥特曼才从神变成人一样。
那些所谓的专家为什么那么招人烦?因为他们从一开始就是错的。对美国的爱应该是“因为是美国,所以是最好的”(暗示美国是伟大的国家),而不是“因为是最好的,所以是美国”(暗示美国的灯塔神国)。
查看全文>>
王小板儿 - 0 个点赞 👍
查看全文>>
Magnificent