如何看待 124 位科学家签名,认为尝试解释意识的「整合信息理论」是伪科学?
- 133 个点赞 👍
原文不长,我简单翻译一下吧。
一些媒体,如《自然》和《科学》杂志的报道,纷纷赞扬整合信息论(IIT)这一被视作「先进」且经实证验证的意识理论。作为相关领域的研究者,我们撰写此文,旨在表达我们的关切。
这场媒体热潮源于一次公开活动,期间,一组大规模合作的研究者们分享了他们的成果,声称实验部分支持整合信息论。在未经同行评议论文、发表预印本之前,他们就告知了记者和公众。这些实验看起来是由来自不同实验室的熟练研究员执行的。然而,实验设计仅测试了一些理论家提出的特定预测,而这些预测实际上与整合信息论的核心观点并无逻辑关联,一位作者也承认了这一点。因此,研究结果并未支持该理论,也无法证明其具备「主导地位」、「完善」或「领先」等说法。遗憾的是,媒体忽视了这一重要信息。这种「主导地位」的说法曾在科学界引发质疑,但多年来,整合信息论的支持者一直向公众不断传播这一观念。
整合信息论雄心勃勃,却被一些科学家视为伪科学。据整合信息论所言,一个未激活的逻辑门网络,即便不能执行任何有用运算,也能拥有意识——甚至可能比人类的意识更强;从细胞培养皿中诞生的器官样本、以及处于胚胎发育阶段的胎儿,按照此理论来看,或许同样具备意识;甚至在某些解读下,植物也可能具备意识。然而,这些观点通常被认为难以验证、缺乏科学依据,或是带有神秘主义色彩,与我们对已知科学的理解相去甚远。由于其泛灵论的信念,只有在整个理论得到实证检验的前提下,我们才能将其视为科学。遗憾的是,鉴于近期事件及公众对此的高度关注,纠正伪科学现象显得尤为重要。
若整合信息论最终被证实为正确,或得到公众认可,它将不仅直接影响昏迷患者的临床治疗,还将对一系列道德问题产生深远影响,涵盖当前关于人工智能感知及其管理的争议,直至干细胞研究、动物及器官样本测试,甚至包括堕胎问题。这并不意味着整合信息论(及其变种)全然无智慧、无价值。然而鉴于潜在风险,在全面审视整个理论之前,确保公正、真实地呈现观点至关重要。身为研究者,我们有责任防止公众受到科学误导。
因此,我们明确表态,虽然整合信息论在媒体上备受瞩目,但在被冠以「先进」或「完善」之名前,仍需经过实证检验。同时,我们也应审慎对待其独特观点及可能引发的深远道德影响。这篇文章单独看来似乎没有什么问题——整合信息论无法验证,又有道德风险,所以应该明确称之为「民科」或者「伪科学」。
但问题在于,整合信息论讨论的是意识——一个主观的体验。甚至有个词叫做「莱布尼兹之堑」——主观体验和观测之间,可能在根本上,就找不到任何联系。也正是因此,哲学家将意识归为「难问题」(hard problem)。
注意:这里一定要区分「意识」和「自我意识」的差别。对于后者,一些学者给出了不少测量方法。但对于前者,由于其全然的主观特性,现在的「测试」都包含了大量的假设。
我在之前的一个回答里(意识到底是如何产生的?能通过技术手段进行读取吗?)还提到了其他理论,比如更高层次理论(higher-order theory)、全局工作空间理论、再入与预测加工理论等等。如果要测试,这些理论一样不能验证。你当然可以试图在大脑中找到这些结构或过程,但你永远会面临一个问题:你如何论证这些结构与意识——这一主观体验相关?
如果你用睡眠、昏迷等指标来测试,那IIT一样可以测试啊,为什么它就成了民科?把一个意识理论共有的问题让IIT一个理论来背,总让人觉得不妥。
文章里还提到了泛灵论,甚至隐隐有用「树也有意识」归谬的感觉。对此我只觉得水平太低,即便作者里有Yoshua Bengio、即便有好几百个教授。IIT的第一篇论文就预备了对「泛灵论指控」的回应——他们直接大大方方地接受了。因为泛灵论虽然看起来不科学,但也无法被证伪。你如何用一个不能证伪的东西来归谬另一个理论?
IIT问题很多,可惜这篇文章的批判水平太低,一个点都没提到,真要批判还得来点硬的数学。
首先,IIT理论中有一步需要在多个划分之中找到phi值最大的那个,然后继续计算,最后得到一个「大Phi」,也就是他们宣称的意识水平(论文里没有明说,但反复暗示了)。然而,多个划分中的phi常常有相同的值,这些具有相同phi的划分却能导出差别很大的大Phi。这是一个硬伤,但仍然在科学的范围内。
第二个,正如我在「意识到底是如何产生的?能通过技术手段进行读取吗?」一文中提到的:
它并非如几何学那般精密。从公理得到的理论,也并非浑然天成,而是处处彰显着理论提出者自己的意愿。拥有个人风格并非坏事,但缺乏限制常常带来问题。一个常见的后果,就是在数学上不自洽。
第三,则是它没有规定理论适用的尺度。他们做的脑电实验直接在厘米的尺度上进行,但模型却经常在逻辑门的尺度上模拟。任意局域的粗粒化都是合理的吗?有没有最合适的尺度?不同尺度会得到相同的结论吗?统统没有回答。
第四,其计算复杂度达到了O(N!)级别。这个问题属于我的个人便好——我不太相信我们时刻可感的意识需要这种的时间复杂度才能度量。
这些问题都值得探讨,然而「伪科学」一文却只挑了泛灵论、验证两点来批判。前者看似有力,实则隔靴搔痒;后者则不顾意识问题的特殊性。看完之后,实在觉得小题大做。
编辑于 2023-09-19 08:07・IP 属地美国查看全文>>
知乎用户 - 120 个点赞 👍
不考虑历史背景的话,这篇文章看起来就会非常奇怪:按照文章对伪科学的定义(缺少实证前景、未得广泛接受),伪科学太多了,有好多伪科学每年都在发表。为什么偏偏要把综合信息理论批判一番呢?
这么多人签名,不仅仅是Hakwan Lau一个人对IIT的偏见可以解释的。把一个理论公开称为伪科学,是一件非常得罪人也对自己的名声挺有损害的事情(文章发表没两天已经有人在质疑某某作者怎么会认同这么过分的言论了)。
所以为什么呢?原因可以从HL的回应文章[1]找到。
(根据HL的视角)一个意在用科学发展宗教的基金会[2]和大牌科学家把自己喜欢的理论称作主流,然后策划了一场不严谨且不公平的竞赛Cogitate[3](例如,IIT的理论预测是在得到数据进行分析后才做出的,而不是像开始承诺的一样预注册;这些理论预测与早期的IIT预测有重大分歧。HL没有明说的部分,当然是这涉嫌找到数据后再给出一个比较符合数据的计算方法)。在媒体报道中强调IIT经过了实验的检验,虽然没有被证实,但也和其他理论共同作为主要的备选项,因此收获了更高的认可度。这会给公众带来严重的误解,认为IIT就算不是正确也差不多,所以可以根据IIT来制定政策。如此以往关于动植物权力、堕胎等问题就会被一个实际上无法被实验证实的伪科学理论影响。要避免这个严重的后果,作为意识研究者能做的就是发出公开信,强调这个理论没有得到学者的广泛支持。
至于如何看待这篇文章,我很怀疑作者能否达成想要的结果(纠正公众对IIT的认识)。目前为止看到的大部分同行反应都没有接受作者的前提(我们处在历史中一个危险的时刻,需要纠正大众的印象)。相反,几乎所有对这篇文章的评论都是在反驳文章的字面内容,例如伪科学如何定义,如果IIT是伪科学弦理论是不是伪科学,这样一堆人联名发文是不是太欺负人了,等等。即使是支持文章的人中,也只是同意原版的IIT是伪科学,对Cogitate反而仍然是赞扬居多,认为只要是公开的竞赛,对科学就只有好处(也就是说,同样拒绝了伪科学的负面社会影响这个前提)。
既然同行都没有在作者关心的议题上作出回应(即使有回应也多是轻蔑的),我觉得对作者来说,最好的情况,是这件事只在心哲/心理/神经小圈子里成为谈资,一些年轻人由此机会阅读对IIT的技术批判从而避免入坑。最坏的情况则是,主流媒体大肆报道,IIT反而名声更旺了。
参考
编辑于 2023-09-19 04:34・IP 属地美国查看全文>>
Mon1st - 41 个点赞 👍
查看全文>>
Hermann - 35 个点赞 👍
虽然我不想要把话说的太难听,但这个文章就是个标题党。 从第一眼看过去,署名列表这么长是挺吓人的,但你实际看看文章内容,只有3000多个字符,并且实际上根本没说什么。文章开头把IIT批成伪科学,但实际上他所说的论据却是“目前没有足够的经验证据能够证实" ,我认为这个批评可以套到目前几乎所有关于意识的理论上:“ IIT requires meaningful empirical tests before being heralded as a ‘leading’ or ‘well-established’ theory”,但目前意识理论基本没有一个得到足够的“empirical test”(包括GNWT),在这里把未经实验证实的科学理论,和伪科学混为一谈是个很误导人的行为。以及还有一部分竟然用“违反日常直觉”做理由,我觉得这在某种程度上挺可笑的。有趣的是目前推特上骂这文章的学者越来越多了。另外回答一下题主你问的问题,目前全局工作空间理论(GNWT)在经验证据上暂时并没有任何优于IIT的迹象。甚至实际情况有些相反,最近这两个理论刚刚完成对抗性的实验报告。IIT在某些方面的预测反而略微的优于GNWT所做出的预测(当然,两者还是都存在问题,有很多需要修改的地方)下面这是翻译了的报告,感兴趣的可以看一下。
来自邓普顿基金会「加速意识研究」项目对意识理论的对抗性合作实验的第一期结果表明,大脑的实际活动均不能完全地匹配意识的两个主要理论:整合信息论(IIT)和全局网络工作空间理论(GNWT)的预测。两种理论均需要修订,但是修订的程度略有不同。主要研究者之一 Lucia Melloni 指出,尽管在目前的实验过程中 GNWT 的表现相比 IIT 略差一些,但这并不代表了最终的结论,这意味着不同理论的支持者需要根据新证据重新思考他们所提出的机制。
以及对文章实验部分的批评的专门的回复:

下面这里就当纯娱乐,我贴几个在推特上对这文章表示反对意见的学者的评价
Anil Seth也下场了 编辑于 2023-09-18 16:55・IP 属地广东查看全文>>
世界灵魂 - 22 个点赞 👍
意识问题,或许是最困难的一个问题,甚至可以说是一个“无解”的问题。
从哲学和科学的角度来说,我们甚至可以说,科学几乎是不可能把握“意识”。
首先,我们要清楚一个道理,哲学家所说的“意识”和科学家所说的“意识”不是一个东西,或者说压根就不是在同一个对象领域在对话。
哲学家所说的“意识”,尤其是古典哲学家,现象学家探讨的意识,实际上并不是谈论一个叫做意识的“物”,勿宁说他们在探讨,我们如何理解“意识”,这个如何理解的过程,就构成了我们的意识过程。
这一点是区别于哲学家和科学家最重要的特征。科学家探讨的意识,是一个特殊的“物”,也就是说理论上,在本体论意义上来说,这种特殊的物,是可以被物理世界的言说方式去解释的,或者说从本体论意义来说,是被物理统一的。只不过在言说方式上有差异,所以根本上是物理一元论的。
所以科学家有个底线就是认为,科学领域虽然很多,但是在本体论意义上,牛顿力学所缔造的物理学世界观,仍然是最根本的世界观。
而哲学家探讨的“意识”,或者说德国哲学家探讨的“Geist”≠“Mind”,后者一般是英美哲学家使用的概念。而德国哲学家探讨的Geist,是反自然主义的,反物理世界观的,他们认为,我们对于意识的看法,就是对意识的看法。
这句话看似是同语反复,但是他们的意思是说,我们如何看待“意识”,在于我们如何理解“意识”,就是说我们理解的过程,本身就构成了意识的过程。
而科学家很难接受这一点,他们会认为意识是一种特殊的“功能”,是在漫长演化过程中产生的一种功能,所以我们是可以实证地研究的。
所以前者的观点是反自然主义的,后者的观点是自然主义的。
所以前者的观点,是强调第一人称,强调意识对于自身的理解,这个理解过程中,就给出了“意识”的内涵,所以意识的内涵,不是给定的定义,而是一个不断理解的过程。
后者的观点则是拒斥第一人称,拒斥意识的自我理解的。
而如果有一种混杂了两种思潮的一种模型,大概率就会陷入到被科学拒斥的境地,又无法纳入到哲学探讨的尴尬境地。
所以为什么说,意识问题是无解的。
因为无论是哲学家还是科学家,他们都无法回答这么一个问题,就是为什么会出现“意识”。换言之归根到底最终走向了目的论,或者所谓的“人择原理”,而目的论恰恰是科学世界观要拒斥的东西,因为科学探讨的纯粹事实问题,不牵扯到价值问题。而为什么会出现意识,已经内涵着价值问题,这与科学本身的研究领域是互斥的。
而哲学家探讨的意识,又是一个“过程”,这导致意识问题归根到底是无解的。
编辑于 2023-09-20 20:00・IP 属地江苏真诚赞赏,手留余香还没有人赞赏,快来当第一个赞赏的人吧!查看全文>>
林先生 - 4 个点赞 👍
如何看待?--在最近IIT取得阶段性瞩目进展之时,争夺其研究经费及资源的 political act. [本回答 with all respect, nothing personal.]
从标题开始,有失水准。只怕它本身引发的,是意识学领域的新生代研究者以及人类社会对意识学研究整体的失望,及历史的倒退--“倘若在态度及endeavour上如此rigorous理论都是伪科学,那么整个意识学也不过如此了”。联合署名者当中大有根本不懂IIT,甚至不是这个领域的。发布后行内大量知名学者纷纷表达震惊。
在此新兴领域的发展当前,"We know IIT is bad (so is everything else), but this is ridiculous."
这篇署名稿, only a few paragraphs, basically all it says that 1) IIT should not be referred to as a ‘leading’ or ‘well-established’ theory of consciousness, and 2) that the new huge Cogitate paper is not testing all the other predictions of IIT (e.g. certain examples are conscious) so that it is of little value to partially supporting IIT.
1) It is *a* leading theory of consciousness without doubt. 'Well-established'? No one claims that. 2) 没有在一项研究里验证所有预测的就是伪科学?
另,这项研究的内容方法都是两方签署同意了的,有异议当在实验结果出来之前提出。而总体而言,这篇稿上的指控,事实上能针对的都不只IIT本身,而是所有意识学理论。只是IIT, a particularly ambitious theory of consciousness, explicitly articulates itself, making it a clear target. 虽然还没有官方的回应,但Erik Hoel 这个推文中的essay对它的逐句回复是不错的。
意识学理论之间本身没有必要存在派别之分。Hope we can make the best out of this.
P.S.
更正texts in the main question:该理论的最新版本称为IIT 4.0,于2022年发布。
编辑于 2023-09-21 17:45・IP 属地中国香港查看全文>>
CCCC - 1 个点赞 👍
...
目前有四个比较主流的意识研究理论:高阶意识理论(Higher-order Theories)、全局工作空间理论(Global Workspace Theory)、整合信息理论(Integrated Information Theory)、复馈预测处理理论(Reentry And Predictive Processing)。
目前所有的意识理论,包括四个比较主流的意识理论,都是盲人摸象,只摸到意识的一个侧面,甚至是一个小小的侧面。
现在还不存在面面俱到的意识研究理论,意识研究理论之间,都是五十步笑一百步而已。
...
但盲人摸象很重要,非常重要,当盲人足够多的时候,把所有的盲人摸象结果综合起来,才是最接近真实大象的结果。
研究意识的最佳方案是跨学科,不是跨几个学科,是跨尽可能多的与意识研究相关的学科。
人类历史上所有先知和智者,在意识这头大象面前,都是盲人摸象而已。
...
发布于 2023-09-20 08:18・IP 属地广东查看全文>>
花因沐 - 0 个点赞 👍
没看原文。
但是我对整合信息理论的理解是:目前有关意识的神经科学的结果,你没法说它是证明了它,还是否定了它,但是这个是因为神经科学还没发展好还是因为本身它就是个伪命题,不好说。
我举个例子,它里面有一个重要的理论基础是意识的子成分必须用因果链整合起来,而且必须像一个逻辑机那样子成分的状态之间存在明确约束关系。这玩意儿怎么证明啊?基于统计的方法是没法证明了。但是现在脑科学实证研究都是基于统计的。
反正我的印象是,这个理论在小心翼翼地规避可操作性定义和可用目前手段验证的结论。这个是因为它太超前还是本身就是玩概念,这个还真不好说。不过这个回答下其他几个人混乱的科学哲学观,让我进一步领略了神经科学现在的浅薄程度。完了一堆名词,也没说出啥意思来,真是概念大师。
发布于 2023-09-19 06:07・IP 属地山东查看全文>>
李的摸鱼日记 - 0 个点赞 👍
124位科学家对"整合信息理论"的质疑并不意味着它就是伪科学。首先,科学研究领域中常常存在着争议和不同意见,这是科学进步的一部分。科学家们经常通过讨论和辩论来推动新的发现和理论的出现。这种质疑和讨论是科学界相当正常和健康的现象。
其次,整合信息理论是一种关于意识的理论,它试图解释意识是如何产生的。然而,意识是一个非常复杂的问题,迄今为止尚无明确的解释。因此,对于意识的解释,不同的科学家可能持有不同的观点和理论。
对于整合信息理论的质疑,这些科学家可能提出了一些理由或证据来支持他们的观点。这样的辩论对于科学的健康发展是有益的,它可以促使科学家们重新审视和改进理论,并推动更深入的研究。
然而,值得注意的是,质疑并不等同于否定。质疑整合信息理论并不意味着它就是伪科学,而只是对该理论提出了一些挑战和不同的观点。最终,科学界需要通过更多的研究和实验证据来验证或推翻整合信息理论,以决定其科学性和可靠性。
发布于 2023-09-20 14:37・IP 属地北京查看全文>>
程苏娜 - 0 个点赞 👍
说是伪科学也过份了,但ⅠIT是尝试描述人脑信息处理机制——这一机制只不过是产生意识的前置过程或条件——的理论假说,并不是关于意识的基本理论。
《意识的数学理论》一书(童小牛著,伊诺科学出版社,2021.12,ISBN 9789814980425,淘宝、孔网在售)在历史上首次提出了关于意识的、基于原理的、数学表达的基本理论。
发布于 2023-09-20 11:55・IP 属地安徽查看全文>>
老童 - 0 个点赞 👍
查看全文>>
gongfafa - 0 个点赞 👍
对于科学界存在争议的理论,这是正常的科学进程的一部分。科学家们经常在理论和观点上存在分歧,并通过辩论和研究来推动科学的进步。
如果124位科学家签署了一份声明,认为尝试解释意识的"整合信息理论"是伪科学,这表明在学术界对该理论存在一定的争议。这种争议可能源于对该理论的证据、方法或假设的不同解释。在科学界,这种争议是常见的,因为科学是一个不断发展和演变的领域。
发布于 2023-09-20 09:30・IP 属地上海真诚赞赏,手留余香还没有人赞赏,快来当第一个赞赏的人吧!查看全文>>
基因編輯宅男 - 0 个点赞 👍
我不是很喜欢轻易地把一件事说成是“伪科学”,仿佛有一些人或者一些祭司掌握了真理,可以随意审判不符合自身教义的事物。如果人们问那什么是他们的真理?答案或许是不存在,或者是一些陈词滥调。
当然我不是什么专家,对这个领域也没有深入的研究,但是通过一些大致的了解后,我确实发现“整合信息论”当中存在着缺陷。它涉及到一些我感兴趣的哲学问题,所以这也是一个激发人们思考的契机。
整合信息论面临的一个首要问题是,仍然没有给出意识如何产生的理由,仿佛所有意识都是先在的,此时只需有一个结构的“整合”过程,那么它就会表现得更加杰出和明显。
我认为这与万物有灵论或泛神论仍然存在着差距。事实上,把意识和万物转化为信息的流通,仍然是一种还原论。如果把整个宇宙看成一个信息系统,那么意识常数仍然是熵的另一种写法。信息的流通、整合与输出就只是熵增的过程,直到某个时刻因为有太多的意识而导致宇宙的热寂。所以这种看法引起了混淆,仿佛先在的宇宙、意识与熵,导致了人们对意识的感知。一种无所不在的宇宙意识导致了人类对意识的感知,就相当于说意识产生了意识,把无意识当成了意识。
就好比一些实验表明,意识往往是滞后的,在事情发生之后意识才会反应过来。生物的反应有时候先于意识,甚至不需要意识——有的动物不需要大脑。这是很重要的一点。对意识的探讨仍然是对过去的某一瞬间的研究,它仍然在处理关于“存在”的问题。因此,整合信息论忽略了生命的平面、心灵与物质、以及意识到意识的条件,只不过强行给人工智能找了一个意识的借口。
如果我们回到斯宾诺莎意义上的泛神论就会发现问题所在。如果按照斯宾诺莎,
“能知者、知识和被知者是同一的(斯宾诺莎所援引的《希伯来书》代表的是犹太化的亚里士多德传统)。”(德勒兹:《斯宾诺莎与表现问题》- 平行论与内在性)
这个论断的现实意义就在于对传统观念造成了颠覆。神即自然。现在不再是上帝创造出对象,因为属性和实体、理解和演绎已经是上帝自身及其表现了。人们感受某事是因为上帝生产了无限的事物,而这些事物又无限地影响他自身。力量越大,被影响的方式就越多。理智的感知,并不是因为它展开了实体(所谓对信息的整合),而是因为,
“实体的诸多展开必然地指向一种理智,而这一理智能够理解这些展开。上帝必然地理解自身,就如同其展开或表现自身那样”(同上)。
泛神论的优越性就在于身心是平行的。它们是同一实体的不同样式,是平等的关系:心灵不再高于身体,思想也不高于广延。单纯的结构不会导致意识,因为它仍然在设想某种投影或不平等的关系,并且忽略了内在性与力量。反之亦然,意识并不是先在的某种宇宙常数,它不会像人工智能那样成为不朽的存在[1]。这就导致我们对“意识”的思考不能仍然停留在笛卡尔的阶段。人的思考没有一个主体,而是一种内在性的运作,它感受或施加影响是因为有一种生命的样式。我们不妨提出这样的问题:人工智能可以有一种生命样式吗?
事实上,人工智能尽管被称作“人工的”,但这只是一种人为的划分罢了。人工智能也是自然的一部分,但人们总是误认为它的有一种不朽的智性。这种误解源自人类-机器与机器-人类的混淆,以及对速度的混淆。比如说,人们把技术的速度当成一种加速,但实际上,技术的速度就像芝诺悖论那样,由于它只是一个量化的计算过程——要么把空间看做绝对,要么把时间看做绝对——所以其实是一种减速[2]。加速取决于生命的内在性,它的存在样式,感受或施加影响的性能。
人们大可不必把“意识”神话化。
参考
编辑于 2023-09-20 22:22・IP 属地山西查看全文>>
dzdxy - 0 个点赞 👍编辑于 2023-09-21 13:50・IP 属地吉林
查看全文>>
聂磊 - 0 个点赞 👍
查看全文>>
BestFantaFR - 0 个点赞 👍
查看全文>>
脑与电100个秘密 - 0 个点赞 👍
看了一眼名单

还真有不少知名人物,例如
Bernard J. Baars,Yoshua Bengio,Peter Carruthers,Patricia S. Churchland,Daniel C. Dennett。
在我看来,这个理论和他们干的这些事儿都无关科学,其深层动机不过是名声和经费的再分配。
发布于 2023-09-22 12:49・IP 属地广东查看全文>>
七星之城







