共1个回答0条评论
分享
现在大模型展现出的智能 是因为训练数据质量高?还是它真的涌现出了训练数据里没有的智能?
若雨逢烟
排序方式:被封时间
时间排序由新到旧
- 3 个点赞 👍
这个问题可以说是直接戳到了现在大模型研究最核心的那个点:我们到底创造了一个什么东西?它脑子里的“智能”是天上掉下来的,还是我们喂给它的数据里本来就有的?
这事儿正反两方的观点一直都挺激烈的。
正好9月份MIT和丰田研究院刚出炉的论文(arXiv:2509.09672, Locality in Image Diffusion Models Emerges from Data Statistics),感觉能给你一个特别有意思的视角,而且是带着实验证据的那种。
这篇论文研究的是图像生成模型。大家一直很好奇,它是怎么做到“创造”而不是“复制粘贴”的?以前很多人觉得,是因为模型架构,比如卷积神经网络(CNN),它天生就带有一种“偏好”,叫“归纳偏置”,让它更关注局部信息,所以才没学会死记硬背。
但这篇文章直接把这个观点给挑战了。说白了是数据教会了模型“物理规律”。
模型展现出的所谓“智能行为”,本质上是它对训练数据里深层统计规律的极致学习和复现。 它不是一个带着偏见的学生,而是一个空的容器,你往里倒什么“规律”的水,它就呈现出什么形状。
所以我觉得涌现这个词并不合适,以上我的个人意见,供参考
还没有人送礼物,鼓励一下作者吧查看全文>>
deephub


