39个回答

国内大模型正处于什么阶段,有关键的技术壁垒吗?

麦兜都行
2个点赞 👍

没技术壁垒,唯一壁垒在数据。

只根据chatgpt/gpt4个别例子很厉害,或者做某些科目的题目很厉害,就认为通用人工智能就要来了,或者已经找到了通向通用人工智能的路,肯定是太乐观了。


当前的大模型,我觉得并不算到了质变,和GPT1,2,3没有本质区别。当时这些模型在很多任务上性能也是大幅超过之前的模型,也引来国内纷纷模仿。


自从有了CLUE榜单,大家各种刷,比如21年盘古大模型,2000亿参数,发布会show起来各种对话流畅的很。百度发布文心大模型,各种刷榜第一名。腾讯就多了,包括腾讯云的神农,TI-NLP,QQ浏览器的神舟, 摩天,TEG的混元。


当时宣传点,一是登录CLUE第一名,后面宣传开始说首个超过人类水平(human baseline)的模型。二是比谁参数量大,从几亿,几十亿,百亿,盘古2000亿。


这些模型真正超过人类了吗?显然没有,不仅没有,这些大模型连落地的都没有。


这么玩下去,也不行啊,当时很多做大模型的团队后面都转做别的了。


还没消停一年,chatgpt来了。一帮外行开始叫嚣通用人工智能要来了,各种chatgpt的惊艳回答开始刺激大家神经,很多看上去很专业的人也开始鼓吹AGI。


实际在我看来,这些所谓的很智能回答就是魔术,现在的数据,还不足以训练出来很智能的模型。强化学习只是看上去很美好,实际执行起来比较难。

编辑于 2023-07-18 16:49・IP 属地上海
紫竹
自由评论 (0)
分享
Copyright © 2022 GreatFire.org