10个回答

如何看待博主基德的新视频《人形机器人为什么注定失败》?

性冷淡的毁灭菇
3个点赞 👍

题主是不是想问,这个视频里基德同学说的好有道理,但是总觉得哪儿不对,所以问我他错在哪儿了?

是的,基德同学确实搞错了一个大问题,他发现无论多聪明的智能体自己都没有主动性,他觉得主动完成一个长期规划这个事儿,是当前的大模型解决不了的问题。

对,他就是错在这里了。

我们先不说机器人为啥没有主动性,就说某家正在瞪着手机的孩子,他为什么没有主动性吧。

不是因为孩子不是人,更不是因为孩子不聪明,而是因为训练方法不对。

是的,我们对大模型的训练方法,决定了它们应对外界刺激的能力。

现在所有的大模型,都是为了应答而训练的。

你输入一段token给人工智能,无论这是个指令,还是一个问题,还是仅仅是一个词,比如“苹果”。人工智能都会想方设法给你一个回答。

如果你跟一个人类说“苹果”,人类大概率会用眼白看你一眼,然后不理你,或者顶多问你:啥意思?

但是人工智能被教育成应答机,它们必须给出一个友好且详实的回应,它们可能会说:

您突然提到“苹果”,不太明确您具体想问关于苹果的什么内容呢。苹果既是一种常见的水果,在植物学上有其生长、结构等原理;它也是一个知名科技品牌,有诸如手机、电脑等产品及相关技术、市场等方面的内容。您是想了解苹果作为水果的营养价值、生长过程,还是苹果公司的相关产品、技术、发展情况,亦或是其他和“苹果”有关的话题呢?麻烦您给我更明确的指示。

这就是基德觉得它们是鹦鹉的原因所在。

所以智力不是问题,推理能力也不是问题,问题就出在训练方法上。

如果我们并不要求它们收到信息后立即做出回应,而是放在一个短期记忆池子里,所有的信息,视觉的,听觉的,触觉的,语音的,声音的,所有的都放在一起。然后让人工智能每隔0.1秒就整理一遍信息,抽取其中高价值信息,扔掉低价值信息,对重要信息进行分析,整理,汇总,并进行规划、回应以及自我调控。

可以允许人工智能在工作了一天之后,把短期记忆进行梳理,挑选重要的保存到长期记忆。允许他们通过推理方式生产新知识。允许他们删除掉那些与自己产生的知识相悖的旧知识。

很快他们就会表现得完全不同。他们会非常像一个真正的人类。

是我们的训练让它们像是鹦鹉,而不是他们天生就只能做鹦鹉。

唯一的障碍是,我们真的需要让这样的人工智能出现在身边吗?

这不是技术问题,是社会伦理的问题。

还没有人送礼物,鼓励一下作者吧
呜莎花园
自由评论 (0)
分享
Copyright © 2022 GreatFire.org