####开个玩笑 ####
从2023年元宵节的对比形势来看:
当ChatGPT 还在试图证明是一个强大的人工智能时。
赵泠已经在努力让人们相信自己是真人了。
高下立判。
前者还在恐怖谷里趴着呢,后者已经融入现实了属于是。

#### 一小段基于泠姐AI的科幻 ####
假设赵泠是知乎这个平台为了带动流量,组织的小团队维护的一个虚拟人,如何分辨她是否真实存在呢?
设想我们现在有个小伙伴,他生活在上海或者广州,名字叫做钱钴(取义他缺钱而且古怪),
他试图确定,阅读到的赵泠的回答,来自是一个真实的人(已知设定是,很擅长搜索,知识面很广,在知乎很活跃,写回答很敏捷的女孩子)。
他几乎不可能证伪”赵泠是人“ 或者“赵泠是强人工智能”这两个命题。
可以用来质疑的线索基本上都可以被这个赵团队遮过去。
举几个例(不可能穷举):
=> 赵泠几乎不睡觉,甚至四五点回答。
(而现实中钱钴童鞋晚上被客户催了,睡不踏实,早上爬起来写答案)
=> 赵泠说自己是某某大学毕业的,后来又隐藏了这个设定。
(事实上钱钴童鞋也没法证明自己来自哪个学校,网名都是ID,学历可以借个朋友的遮过去,学校的一切问题都可以搜出来,太刁钻的问题普通人也真的不知道)
=> 试图证明赵泠=人工智能的回答,会被知乎ban掉。
(是否被ban可以用其他登录账号确定。但是被ban可能是回答中别的关键词触发,或者回答就是没有人看。)
这个科幻小实验里面,钱钴童鞋几乎不可能确定赵泠是真的一个人,或者是一个团队,或者压根就是知乎开发的强人工智能。
但是毫无疑问,赵泠回答的格式和存在模式,很有可能被Chat GPT后面的版本学习,进而造就新一代的回答机器人,从而让互联网上逐步出现大量看起来高质量,事实上是无限量产的“知识”。
这就延申出一个比较可怕的推论: 沉默的互联网。互联网上的用户和内容被人工篡改,或者借助人工智能工具量产知识输出时,参与者只能被动的成为信息接收者,无法对其中进行有效输出(手工永远干不过自动化),从而逐步造成沉默效应。最终互联网上留下的只有经过篡改的信息和充斥特殊目的的商业/工业垃圾。

这个效果会更进一步,让下一代人工智能输入数据的质量向古怪的方向汇集,我们都知道,数据中那些高质量的和明显错误的点才是对模型训练和提升的关键,而大量是是而非的数据会让模型陷入泥潭。
那么有没有可能当前模式的大型语言模型,在接入互联网和对现实材料进行输出后,会造就一个自己吃自己拉的知识极限的泡泡呢?如何刺破这个泡泡让人类的认知更进一步呢?
未来怎么开发防火墙,来过滤这样的量产“知识”呢? 是否会出现人工智能工具和版本之间的对抗,让互联网上的信息更加混乱和难以分辨呢?一部满江红就可以改写票房,我们真的有力量对抗资本叠加人工智能对互联网世界的改造吗?
杨冬因为“物理学不存在了”而终止自己,如果有一天,“共享知识的互联网不存在了”,依赖互联网生活的人会变成什么样子呢?
这其实是一个很好的科幻小说的题材。

.
.
.
.
.
.
.
. ;
####严肃的现实思考总是埋在玩笑和脑洞的下面 ####
一件迫在眉睫(未来两年)的事情,就是大量的低影响因子的论文,可能会被蔓延的人工智能辅助的“文献”所充斥。可能造成如下问题:
1, 影响因子体系的崩解,当研究人员阅读的文献经常碰到人工智能输出的是是而非的结论时,研究人员不得不把自己的精力更多的放在编辑社和审稿人更加严格的期刊中,从而会导致高质量的研究论文获得更大的阅读量和引用率。低质量的杂志面临无人参考的窘境,中间水平的杂志会只能保留行业旗舰刊,但是阅读量会减少,导致影响因子降低。 原来设想的跨行业沟通的期刊可能直接缺乏阅读者。影响因子的核心价值是跨学术行业的横向评价比较。在这种格局中会严重失效。
2, 管理模式的改革,从科研管理者的角度,可能会进一步抬高科研评价的门槛,只认两类期刊,大家都认的顶刊和大佬背书的行业旗舰刊。 这会把科研的内卷程度直接提升两到三个档次。顶刊的竞争是不言而喻的。 旗舰刊之间的竞争可能会让大家目前吐槽较多的“圈子文化”进一步加剧。获得行业大佬的背书可能会成为在科研界立足的唯一途径。从国家层面的管理者显然需要提防这样的行业现象,但是可能未来备选的方法会更加有限。实验室更加可能围绕一个big name进行打造。普惠式的科研资金投入,可能会逐步的降低。青年学者进行微创新的环境可能会恶化。
3,对科研模式的毒害,科学研究最有趣最莫测的部分,常常是看起来微不足道,不为行业认可或者重视的工作,在一段时间后启发了另一个分支上的人的想法或者技术路径。就像人身体里的毛细血管,看起来显然没有大血管重要,但是他吸收的某个微小的代谢物,在运输到身体另一端后可能会非常关键。 当人工智能辅助的文本扑面而来时,这些微小的创新和探索可能会被成规模的覆盖或者沉默,短期可能看不出影响,长期极有可能造成人类整体智力因素的“营养不良”。

4,个人职业发展的选择,科研体系本质上也需要分工,合理配置不同段位的人手,进行团队探索。行业内卷的加剧会驱动大量基层科研劳动力流失,叠加上少年人口的减少。这时候个人职业道路的思考要更加谨慎。看官您比我聪明,我就不展开说了。
5,对教育事业的影响,特别是高等教育的冲击,过去二十年中国的高等教育本质上是弱管理的粗放教育模式,吃的是互联网的红利。 通过高考选拔具备学习能力的人,进入学校后学生利用互联网进行自我通识教育,辅助专业培训,为劳动力市场提供工程师,在进入行业后进行二次行业培训,老师其实一直在卷科研工作。这套逻辑可能会行不通:行业分化加剧,互联网效率降低,不同高校对本科生的精力和金钱投入会更加明显的凸显在招聘市场上,从而造成市场口碑-向高考招生口碑的传递,恶化大部分院校的生存环境,让大学招生之间的竞争进一步加剧。
6,对家庭而言,大部分普通家庭需要投入更大的资源进入教育,生育更加保守。富裕家庭会增加子女个数提高成才概率。考虑到不同收入家庭的占比以及中国经济整体速度逐步平稳,可能人口下滑的速度会比想象中的快的多。
7,届时,可能引入人口成为某种刚需,教会南亚人说中文,或者中国老人说一点南亚语/法语可能成为一种时尚。到时候如果泠姐还在知乎回答,”如何快速学习越南语“,那她一定是AI版了。
终于圆回来call back了。累死我了,起来搬砖去了。
辛苦您看到这里了,为自己的思考过程点个赞吧~
参考文献:
1. The best AI writers: ChatGPT and other interesting alternatives to try,https://www.zdnet.com/article/best-ai-writer/