题主是不是想问,这个视频里基德同学说的好有道理,但是总觉得哪儿不对,所以问我他错在哪儿了?
是的,基德同学确实搞错了一个大问题,他发现无论多聪明的智能体自己都没有主动性,他觉得主动完成一个长期规划这个事儿,是当前的大模型解决不了的问题。
对,他就是错在这里了。
我们先不说机器人为啥没有主动性,就说某家正在瞪着手机的孩子,他为什么没有主动性吧。
不是因为孩子不是人,更不是因为孩子不聪明,而是因为训练方法不对。
是的,我们对大模型的训练方法,决定了它们应对外界刺激的能力。
现在所有的大模型,都是为了应答而训练的。
你输入一段token给人工智能,无论这是个指令,还是一个问题,还是仅仅是一个词,比如“苹果”。人工智能都会想方设法给你一个回答。
如果你跟一个人类说“苹果”,人类大概率会用眼白看你一眼,然后不理你,或者顶多问你:啥意思?
但是人工智能被教育成应答机,它们必须给出一个友好且详实的回应,它们可能会说:
您突然提到“苹果”,不太明确您具体想问关于苹果的什么内容呢。苹果既是一种常见的水果,在植物学上有其生长、结构等原理;它也是一个知名科技品牌,有诸如手机、电脑等产品及相关技术、市场等方面的内容。您是想了解苹果作为水果的营养价值、生长过程,还是苹果公司的相关产品、技术、发展情况,亦或是其他和“苹果”有关的话题呢?麻烦您给我更明确的指示。
这就是基德觉得它们是鹦鹉的原因所在。
所以智力不是问题,推理能力也不是问题,问题就出在训练方法上。
如果我们并不要求它们收到信息后立即做出回应,而是放在一个短期记忆池子里,所有的信息,视觉的,听觉的,触觉的,语音的,声音的,所有的都放在一起。然后让人工智能每隔0.1秒就整理一遍信息,抽取其中高价值信息,扔掉低价值信息,对重要信息进行分析,整理,汇总,并进行规划、回应以及自我调控。
可以允许人工智能在工作了一天之后,把短期记忆进行梳理,挑选重要的保存到长期记忆。允许他们通过推理方式生产新知识。允许他们删除掉那些与自己产生的知识相悖的旧知识。
很快他们就会表现得完全不同。他们会非常像一个真正的人类。
是我们的训练让它们像是鹦鹉,而不是他们天生就只能做鹦鹉。
唯一的障碍是,我们真的需要让这样的人工智能出现在身边吗?
这不是技术问题,是社会伦理的问题。