第三十九章 电脑会思考吗？ 艾伦·图灵和约翰·希尔勒
你坐在一个房间里，房门上有一个投信口，时不时会有一张卡片从投信口里塞进来，掉在门口的踏脚垫上。卡片上是一个歪歪扭扭的符号，你的任务是从房间里桌子上的一本书里找到相同的符号。在这本书中，每个符号都有另一个配对的符号，在知道配对的符号是什么之后，你要从房间里的一叠卡片中找到一张印有配对符号的卡片，然后把那张卡片从投信口塞到房间外。你这样做了一阵之后，很想知道到底是在做什么事情。
这就是美国哲学家约翰·希尔勒（John Searle，生于1932年）提出的所谓“中文房间”（Chinese Room）的思想实验[1]。这是一个虚构的场景，旨在表明计算机即使看起来像是在思考，其实并不能真正思考。想要知道在这个场景中发生了什么，先必须了解一下“图灵测试”（Turing Test）。
艾伦·图灵（Alan Turing ，1912—1954）是剑桥大学一位杰出的数学家，现代计算机的发明者。二战期间，他在布莱切利园（Bletchley Park）制造了可以进行数字计算的机器，用于破解德国潜艇使用的“恩尼格玛”（Enigma[2]）密码，盟军因此可以破译德国密码电报，提前了解纳粹的行动计划。
让图灵十分感兴趣的一个想法是，计算机不仅可以用来破解密码，而且可以真正拥有智能。他在1950年设计了一个测试，并提出计算机必须通过这个测试，才能称得上拥有智能。这个测试后来被称为针对人工智能的“图灵测试”，但他最初称之为“模仿游戏”（Imitation Game），这是因为他相信大脑的有趣之处并不在于其外形，大脑的功能重要得多。计算机对大脑的模仿并不是在外形上，计算机由电子元件制成，可能有一个很硬的外壳，在外形上与人脑完全不同，但是却能够做大脑会做的许多事情。
当我们判断一个人是否聪明时，是基于他对问题的回答，而不是打开他的大脑，看看神经元是如何连接起来的。因此，当判断计算机是否有智能时，我们也应该关注外部证据，而不是其构造。不管所面对的是计算机还是人脑，我们都应该以输入和输出作为判断依据，而不是血液和神经，或者里面的布线和晶体管。图灵建议的测试是这样的：一名测试人员坐在一个房间里，通过屏幕与另一个个体对话。测试者不知道对方是坐在另一个房间里的人，还是一台自己生成答案的计算机。如果在交谈过程中测试人员不能分辨对方是人还是计算机，那么计算机就通过了图灵测试。如果一台计算机通过了图灵测试，那么便可以说它是拥有智能的，这么说不是比喻，而是说它真正拥有了人脑的智能。
希尔勒“中文房间”这个思想实验，意在表明即使一台计算机通过了图灵测试，也不能证明它真正理解任何东西。在这个房间里，你看到投信口里塞进来的卡片上有奇怪的符号，这些其实是中文，这里希尔勒假设你不懂中文，所以根本看不懂卡片上写的是什么，但是房间的桌子上有一本书，这是一本指导你配对的规则手册，于是你找到了与卡片内容配对的另一些内容并送出房间。你只是按照规则行事，这个任务对你来说毫无意义，你也不知道自己为什么要这么做。但是，从投信口塞进来的是中文问题，而你根据规则手册，用中文给出了像模像样的答案，于是你所在的这个房间在“模仿游戏”中胜出，因为你给出的答案愚弄了房间外面的人，让他们以为你懂中文，能用中文交流。这就表明一台通过“图灵测试”的电脑并不一定拥有智能，因为房间里的你根本不知道卡片上的内容和配对的回答到底是什么。
希尔勒认为，电脑就像中文房间里的那个人，它们并没有真正的智能，也不能真正地思考。他们所做的不过是按照制造者设定的规则来整理符号，整个流程是内置在软件中的，但这不同于真正理解某事或拥有真正的智力。换一种说法，程序员给了电脑一套句法（syntax），即提供了正确处理这些符号的规则，但是没有给电脑提供语义（semantics），也就是没有给符号赋予意义。人类说话是为了表达意义，并以此将自己的想法与周围的世界通过各种方式联系起来。计算机仿佛在说一些有意义的话，但其实只是在模拟人类，就像鹦鹉能模仿人类说话，但从来不真正明白自己在说什么一样。同样，希尔勒认为，计算机并不能真正理解或思考任何事情，就像你懂了句法，但不能因此明白语义。
对希尔勒思想实验的批评是，它只关注房间里的人是否理解正在发生什么，但这是错误的，因为人只是整个系统的一部分，即使这个人不明白发生了什么，也许整个系统（包括房间、桌上的规则手册、有配对符号的卡片等）是明白的。希尔勒对此的回应是对上面的思想实验进行了修改：不再是一个人在房间为写着看不懂的符号的卡片配对，而是想象这个人已经记住了整本规则手册，站在一片田野中，完成为卡片配对的任务。这个人仍然不明白每张卡片上写的是什么，尽管他能为每个问题给出正确的答案。所以，仅仅是能给出正确答案并不代表理解问题是什么。
然而，一些哲学家仍然坚信，人类的大脑就像一个电脑程序。他们相信电脑真的能够思考。如果他们是对的话，那么也许有一天人们可以将大脑中的思想意识转移到电脑中。如果你的大脑是一个程序，现在它在你颅骨内湿漉漉的脑组织中运行，说不定在未来的某个时刻，它会在一台锃亮的大型计算机里运行。如果在超级智能计算机的帮助下，你大脑中数十亿个功能连接都能一一梳理清楚，那么也许有一天，死亡之后的永生将成为可能。你的大脑可以被上传到一台计算机里，它可以在你的身体被埋葬或火化之后继续长久地工作。当然这样的存在到底好不好，则是另一个问题。然而，如果希尔勒是对的话，尽管这台电脑对任何问题都能给出回答，仿佛有意识一般，这依然不能保证你的大脑在上传之后是有意识的。
60多年前，图灵就已经确信电脑可以思考。如果他的预测准确，那么电脑开始思考哲学问题的日子也许就不会太远了，这样的场景，也许比电脑让我们超越死亡更有可能实现。也许有一天，计算机甚至会对我们应该如何生活、现实的本质这些最根本的问题发表一些有趣的看法，这些都是哲学家几千年来一直在努力解决的问题。然而，在那之前，我们仍然需要依靠有血有肉的哲学家来阐明我们对这些问题的思考，其中最有影响力和最具争议的是彼得·辛格。
[1]这个思想实验是针对西方读者设计的，卡片上歪歪扭扭的符号是中文，在设计实验时假设读者不懂中文。——译注
[2]意为“谜”。——译注