思想实验

中国脑——十亿人各演一个神经元,那里会生出心吗

中国脑——十亿人各演一个神经元,那里会生出心吗

大家好,我是 Senko。 本文将解读“中国脑”

给某个国家的全体国民每人发一台无线电,让每一个人都精确扮演一个神经元的角色。谁来了联络就往哪里联络,照着手册动作而已。而整体上,人脑的连接方式被一模一样地复原了出来。

那么,这套巨大的装置会感到疼吗。看见红色时,会尝到那份红吗。

我想多数人会觉得“不可能有这种事”。可若老老实实接受“心就是功能的配置”这个有力立场,这个集合体就成了有心的。1978年内德·布洛克布下的这个陷阱,下面按顺序介绍。

图解

用全体国民复原大脑的接线

具体确认一下设定。布洛克在论文“功能主义的烦恼之处”里画出的是这样一套装置。

当时中国的人口约为十亿(这是论文写作的1978年前后的数字)。给这十亿人每人发一台双向无线电,每个人再拿到一份手册,上面写着“收到谁的什么信号,就向谁发什么”。这是把脑中一个神经元所承担的输入输出关系,原样分派给了人。

再给这个集合体配一具身体。人造的身体上装着摄像头与传感器,它们的信号经由人造卫星送到国民手里;国民发出的信号,则直接驱动身体的手脚。

于是,某个人的大脑那套功能性组织,就在十亿人的无线通信之上实现了。反应也好、对话也好、行动也好,都与原来的人分辨不出。

真实的大脑有数百亿个神经元,所以“人数不够”这种吐槽自然会来。不过那不是这个思想实验的本体。人数可以随便增加,把注意力集中到“组织的形状相同,心就会生出来吗”这一问上——实验就是这么搭的。

被瞄准的是功能主义

布洛克的靶子是“功能主义”(functionalism)。这个立场认为,心理状态不取决于脑由什么构成,而由它在输入、输出与其他心理状态之间所承担的角色定下

这套想法有很大的长处:它不把心捆在特定的物质上,所以脑是碳做的还是硅做的都无妨,只要承担同样的角色就能被认作有心。外星人也好、人工智能也好,都留着余地——这是一套开放的理论。

布洛克怀疑的是,这份开放是不是过头了。他把这个问题整理成了两种失败。

立场容易犯什么错例子
过于排他(沙文主义)把可能有心的东西不当地限窄“不是人脑的物质就没有心”
过于开放(自由主义)连不该有心的东西也认作有心“接线相同,国民的集合也有心”

太拘泥于脑的材料,心的范围就收得过窄;只凭角色来定,又放得过宽。中国脑,就是把后一种过头做成可以看见的形状的装置。

而要紧的是,布洛克拿来成问题的是“感觉”而不是“聪明”。这个集合体在智能上表现得体,承认下来也无妨;可是,疼的疼、红的红这样的感受质,也能说就在那里吗。他把论证立在了这个可疑之处上。

三百年前的风车磨坊

相似的发想其实很早就有。德国哲学家莱布尼茨在18世纪初写下的“风车磨坊”那一段就是。

他说:假设有一台会思考、会感觉的机器,把它放大到风车磨坊那么大,让人能走进去转一圈。那里能找到的只有互相推挤的部件,没有任何东西能说明知觉

可以说,中国脑是用人重做了一遍这座磨坊。相隔三百年的两个思想实验形状相同,我想是因为“部件聚在一起,感觉从哪里冒出来”这份困惑扎得实在太深。

直觉能当证据吗

针对这个思想实验最大的反击很简单:“觉得没有心,只是直觉罢了”

我们早已习惯了“心寄居在颅骨里那团柔软组织中”这幅景象。不愿把心认给一群拿着无线电的人,也许只是这份习惯在捣乱。把对陌生之物的偏见,错当成了哲学上的发现——批评是这样说的。

实际上,也有论证显示这份直觉靠不住。为人熟知的一条,是“把神经元一个一个换成人造元件”这个想法。

  • 只换掉1个神经元,换成输入输出相同的元件。心应该不变
  • 换第2个、第3个,每一次也都该什么都不变
  • 这样继续下去,整个脑迟早全成了人造物
  • 那么,感受质究竟是在换到第几个的时候消失的

若说在某处突然消失,那就等于说单单1个元件承担了意识的全部,不自然;可若说是一点点变淡,就得承认“本人毫无察觉,感觉却在变淡”这种古怪的状态。也有哲学家沿着这条路主张:功能相同则意识相同,这样想才自然。

另一方面,挨了这记反击,中国脑带来的别扭感也并没有消失。这个思想实验没能了结争论,这件事本身就显出了意识问题的难缠——我是这样看的。

与中文房间差在哪里

名字相近容易混,可它与“中文房间”是两回事,造它的人与要打的靶子都不同,整理一下。

中文房间中国脑
提出者约翰·塞尔(1980年)内德·布洛克(1978年)
执行的人房间里的1个人十亿人的集体
复现什么操作符号的程序神经元的连接方式
想否定什么理解、对意义的把握感受质、被感到的质
靶子强人工智能(符号处理生出心)功能主义(角色定下心)

中文房间论证的是“只是照规则动作的人,并不懂中文”。中国脑没在谈理解,它只问一件事:把接线完美模仿下来的集合体,是否伴随着“疼”这份感觉

两者共通的,是“干活的人不知道整体在干什么”这个格局。正如房间里的人不懂中文,拿着无线电的每一个人,也不知道他们此刻正做着怎样的梦。

该怎么接住中国脑

那公司与国家不也有心了吗

这是个有意思的派生。企业与国家同样由许多互通信息的人构成,从外面看也表现得像在做决策。若承认中国脑,这类组织不也该有心吗。

布洛克的设定特别之处在于,它把人脑的功能性组织连细节都精确摹了下来。公司的组织图与脑的接线不是同一个形状,所以照搬不成同一件事。话虽如此,“像到什么程度才认它有心”这条线,实情是谁也没写出来。

通信太慢会成为问题吗

会。人用无线电互相联络的速度,比神经元的传导慢了好几个数量级,所以这个集合体的“1秒”,在现实里要走上好些年。

不过这是否构成本质性的反驳,意见分歧。若速度能定下意识的有无,那件事本身就需要说明。要说慢吞吞的意识不算意识,就得定下几秒以内才算有心。

这场讨论与今天的AI有关系吗

直接有关。如今的AI也是由大量简单的计算元件交换信号、造出整体的行为,结构上与中国脑很像。

我想中国脑的那个指摘——“智能地行动,与感觉到什么,是两回事”——正是在AI能像人一样应答的今天才更见效力。把它读作“不能只看行为就断定内侧”的一句警告,这个四十多年前的思想实验,现代得令人吃惊。

相关的思想实验

下面是围绕“心在什么条件下生出来”的心灵哲学思想实验。与中国脑成对来读,各自想否定的东西就清楚了。

结语

本文解读了“中国脑”。

听人说一群拿着无线电的十亿人有心,是没法痛快点头的。可一想给那份抗拒配上道理,就落进了“非得是人脑这种材料不可”这种根据很薄的主张;改成只凭角色来定,范围又放得太宽。布洛克备下的,是往哪边逃都别扭的一套装置。

四十多年过去,这一问仍没有公认的答案。不过在AI已经能给出与人分不出的应答的今天,“行为相同,就能说里面也相同吗”这个问题,我想正从哲学的习题变成实务上的论点。

想返回思想实验列表的读者请点击下方链接。

我们下一篇文章见。

著名思想实验大全——中文房间、电车难题、缸中之脑完全解读zh.senkohome.com/thought-experiment-list/