皇帝新脑-3

理基本定律缺乏理解，才使我们不能物理地或逻辑地掌握“精神”的概念。我在这里不是讲，永远不可能很好地掌握这些定律。相反地，本书的部分目的即是企图在这一方面似乎有前途的方向去刺激将来的研究，并且想要提出某些相当特殊的、显然是新的关于 “精神”实际上可在我们知道的物----------------------- Page 19-----------------------理发展中占据什么位置的建议。我应该清楚地表明，我的观点在物理学家中是非传统的，并因此在目前不太可能被电脑科学家或生理学家所采纳。大部分物理学家会宣称，在人脑尺度下有效的基本定律已经完全知道。当然，在我们物理知识方面一般地仍有许多空白这一点，是无可争议的。例如，我们不知道制约自然的次原子粒子质量值以及它们相互作用强度的定律。我们还不能使量子理论和爱因斯坦的狭义相对论完全协调——遑论去建立 “量子引力论”了。这种理论要使量子理论和他的广义相对论相协调。由于还没有量子引力论，人们就不能理解在已知基本粒子大小的 1／100000000000000000000 的不可思议的微小尺度下空间的性质，尽管我们以为自己关于比这更大尺度下的知识是足够的。我们也不知道这整个宇宙无论在空间上还是在时间上是有限的还是无限的，尽管这样的不确定性对于人类尺度的物理学似乎没有什么影响。我们不理解既作用于黑洞的核心又作用于宇宙本身大爆炸起源处的物理学。然而，所有这些问题似乎和人类大脑运行有关的“日常”（或稍小一些）尺度问题的距离是要多遥远就多遥远。它们肯定是遥远的！尽管如此，我将论证，正是在我们鼻子尖 （不如说是后面），在我们的物理理解中，正是在和人类思维和意识的运行相关的水平上，还存在巨大的无知！正如我将要解释的，甚至大多数物理学家还不承认这个无知。我还要进一步论断，黑洞和大爆炸与对这些问题的考虑的确有相关之处，这真是令人吃惊！我将要用证据来支持我要提出观点以说服读者。但是，为了理解这些观点我们还要做许多事。我们将要到奇异的国度以及陌生的研究领域中去旅游。我们要考察量子力学的结构、基础和困惑，狭义和广义相对论、黑洞、大爆炸、热力学定律、电磁现象的马克斯韦理论以及牛顿力学的基本特征。当企图要理解意识的性质和功能时，哲学和心理学问题的作用就清楚地呈现出来了。除了设想的电脑模型外，我们当然要对大脑的实际神经生理学稍有些了解。我们要具备人工智能现状的某些观念，还需要知道什么是图灵机，需要理解可计算性、哥德尔定理以及复杂性理论的意义。我们还将深入到数学的基础甚至物理实在的最本质的问题中去。如果，在所有这一切的结尾，读者对我就要表达的不太传统的论证仍然无动于衷，至少我希望她或他从这个曲折迂回的、但我希望是激动人心的旅途中，得到某些真正有价值的东西。----------------------- Page 20-----------------------图灵检验让我们想象一种新型的电脑被推到市场上来，它的记忆容量和逻辑单元的数目可能超过了人脑。还假定为此机器仔细地编了程式，并提供了合适种类的大量数据。制造者宣称这种仪器实际上在思维。他们也许还宣布它们真正是有智慧的。或许他们还走得更远，并提出该仪器实际上感到痛苦、快乐、慈悲、骄傲等等，并且自己知道以及实际上理解它们自己的所作所为。的确，它们仿佛就要被宣布是有意识的。我们如何才能相信制造者的宣称呢？当我们通常买一台机器时，完全根据其所提供的服务来判断其价值。如果它令人满意地实行了我们规定的任务，我们就很高兴。若不是这样，就把它送回去修理或代换。为了检验该制造者所宣称的该仪器实际上具有人类的属性，我们会根据这一判据，简单地要求它在这些方面是否能和人类一样地行为。假定它令人满意地做到这些，我们就没有原因去抱怨制造者，也没有必要把这台电脑退回修理或代换。这就为我们提供了有关这些事体的非常有效的观点。假定该电脑的动作和一个人在思维时的动作方式不能区分，行为主义者就会说它在思维。我在此刻暂且采纳行为主义者的这一观点。当然，这不意味着我们要求电脑以一个人在思考时可能行走的方式移动。我们更不指望它会活灵活现地像人类：这些和电脑的目的无关。然而，这意味着我们要求它对任何我们介意问它的问题产生拟人的答案。假定它以一种和人类不能相区别方式提供这些答案，则我们就宣称对它的确在思维 （或感觉、理解等等）这个事实表示满意。阿伦·图灵在题为 《计算机和智力》的著名文章中有力地论证了这一观点。该文于 1950年发表在哲学性杂志 《精神》上（图灵1950）。 （我们以后还要时常提到图灵。）现在称作图灵检验的观念就是首次在这篇文章中描述的。这是为了检验一台机器是否能合情理地被说成在思维的企图。让我们假设一台电脑 （正如上面描述的、我们制造者所叫卖的）确实被宣称为在思维。按照图灵试验，该电脑和某个人类的自愿者都躲开到（知觉的）质问者的视线之外。质问者必须依赖向他们双方提出检验问题，来①决定两者何为电脑何为人类。这些问题以及更重要地她 收到的回答，全部用一种非人格的模式传送，譬如讲打印在键盘上或展现在屏幕上。质问者不允许从任何一方得到除了这种问答之外的信息。人的主体真实地回答问① 在写这类著作时，在没有任何性别含义的地方存在着不可避免地用 “他”还是“她”两个代词的问题。在提到某一抽象的人时也遇到了相应的问题。我将用 “他”来表明短语“她或他”，这就是我通常所做的。然而，我希望在这儿宁愿用一位女性的质问者这一点 “性别主义”能被原谅。我猜想，她或许比她的男性对手对于识别真正的人性会更加敏感些！----------------------- Page 21-----------------------题并试图说服她，他确实是人而另外的主体是一台电脑；但是该电脑已被编好了 “说谎”的程序，为了试图说服质问者它反而是人。如果质问者在一系列的这种检验的过程中，不能以任何一致的方式指明真正的人的主体；那么该电脑 （或电脑程序、或程序员、或设计者等等）肯定是通过了这一检验。现在人们也许会争辩道，这种检验对于电脑实际上是不甚公平的。因为如果交换一下角色，使人的主体被要求去假装成电脑，而电脑作真实的回答，那么要质问者去发现哪个是哪个就太容易了。她所要做的一切只是要求这些主体进行某些复杂的算术计算。一台好的电脑能够一下子准确地回答，而人很容易被难倒。 （然而，人们对此要稍微小心一些。有些“计算奇才”具有非常惊人的心算技巧，从不算错并且显得轻松胜任。例如约2翰·马丁·萨查里阿斯 ·达斯 ，一位文盲农夫的儿子，他从 1824年至 1861年生活在德国。他能在比一分钟短的时间内用心算完成两个八位数的乘法，或在大约六分钟时间内完成两个二十位数的乘法！很容易错认为这是一台电脑在计算。在更近代，亚历山大·爱特金和其他人的计算成就也一样地令人印象深刻。爱特金是 1950年代爱丁堡大学的数学教授。质问者对此检验所选择的算术问题必须比这个更令人绞尽脑汁，譬如讲，在两秒钟内乘两个三十位数，一台好的现代电脑可轻而易举做到这一点。）这样，电脑程序员的部分任务是使电脑在某一确定方面比它实际更“愚蠢”。因为如果质问员要问该电脑一个复杂的算术问题，正如我们上面考虑过的，那么现在电脑必须假装回答不了或者马上放弃！但是我相信以这种方式使电脑变 “愚蠢”不是电脑程序员面临的特别严重的问题。使之回答一些最简单的人类不会感到有任何困难的 “常识”问题正是他们的主要困难！然而，在引用这类特例时存在一个固有的问题。因为不管人们会首先提出什么，很容易设想一种方法使电脑正如一个人的样子去回答那个特殊问题。但是，在电脑方面的任何真正理解的缺乏都会因为不断的询问而显露出来，尤其是对于具有创造性和需要真正理解的问题。质问者的一部分技巧在于能设计出如此创造性的问题，另一部分是利用设计来揭示出是否发生某些实在 “理解”的探测性的其他问题去追踪它们。她偶尔也可以问一个完全无聊的问题，看看电脑能否检测出差别来，她或者可以加上一两个表面上听起来像是无聊的、而实际上有一点意义的问题，例如她可以说：“我听说，今天上午一头犀牛在一个粉红色的气球中沿着密西西比河飞。你怎么理解此事？” （人们可以想象该电脑的眉头上，泛出冷汗——用一不适当的比喻！）它也许谨慎地回答： “我听起来觉得这不可思议。”到此为止没有毛病。质问者又问： “是吗？我的叔叔试过一回，顺流逆流各一回，它只不过是浅色的并带有斑纹。这有什么不可思议的？”很容易想象，如果电脑没有合适的 “理解”就会很快地暴露了自己。在回答第一个----------------------- Page 22-----------------------问题时，它的记忆库非常有助地想到它们没有翅膀，甚至可以在无意中得到 “犀牛不能飞”，或者这样地回答第二个问题 “犀牛没有斑纹”。下一回她可以试探真正无意义的问题，譬如把它改变成“在密西西比河下面”，或者 “在一个粉红色的气球之中”，或者 “穿一件粉红色夜服”，再去看看电脑是否感觉到真正的差别！让我们暂且撇开是否或何时能造出通过图灵检验的电脑的问题。让我们仅仅为了论证的目的假定，这种电脑已被造出。我们可以问，一台通过检验的电脑是否应该必须说在思维、感觉和理解等等。我将要很快地回到这事体上来。此刻我们且考虑它的一些含义。例如，如果制造者的最强的宣布是正确的，就是说他们的仪器是一个思维的、感觉的、敏感的、理解的、意识的生物，那么在我们购买该仪器时就涉及到道义的责任。如果制造者的话是可信的话，事情就应该是这样子的！开动电脑仅仅是为了满足我们的需要而不考虑其自身的感情应受到谴责。那在道义上和虐待奴隶没有什么差别。一般地说，我们是应避免使电脑经受制造者宣称的它会感觉到的痛苦。当它变得和我们很亲近时，要关掉也许甚至卖掉它，在道义上对我们都是困难的。就会出现我们和其他人类或其他动物的关系要把我们卷入的其他无数的问题。所有这些现在都变成紧密相关的事体。这样，让我们 （以及当局！）知道制造者的宣布是否真的，便具有极大的重要性！我们假定这个宣布是基于他们如下的断言： “每一台思维的仪器已被我们的专家严格地进行了图灵检验”。我仿佛觉得，尽管这些声称的某些含义、尤其是道义上的明显荒谬性，把成功地通过图灵检验当作存在思维、智慧、理解或意识的有效指标的情形，实际上是相当有力的。如果我们不采取交谈的话，何以判断他人也具备这些品质呢？实际上还有其他的譬如面部表情、身体运动以及一般动作等等判据，它们会大大地影响我们所做的这种判断。但是，我们可以想象（也许在更为遥远的将来）可把一个机器人制造得能成功地模拟所有这些表情和动作。这下子就不必要把机器人和人的主体躲藏在质问者的视界之外，但是质问者随意支配的判据在原则上可和以前相同。我本人的观点是准备把图灵检验的要求大大地减弱。我似乎觉得要求电脑这么接近地模仿人类，以使得在一种相关的方式下不能和一个人区分开实在是太过份了。我自己想要求的全部是，我们知觉的质问者应该从电脑回答的性质对在这些回答背后的意识存在真正地感到信服，尽管它可能是非常异样的一种意识。这就是迄今建造的所有电脑系统明显缺乏的某种东西。然而，我能觉察到这样的一种危险，如果质问者能决定哪一方事实上是电脑，那么她可能也许是无意识地迟迟不把甚至她能感觉到的意识赋予电脑。或者在另一方面，她也许有这个印象，即她 “嗅”到了这个“异物的存在”，即便该电脑没有这种可疑的好处，她还是准备赋予它这个好处。由于这种原因，就在图灵检验原先形式的更大的客观性上，它具有明----------------------- Page 23-----------------------显的优点，我在下面就一般地拘泥于这种形式。我早先提到的对于电脑引起的 “不公平”（也就是它必须做人能做的一切才能通过，而人不必会做电脑能做的一切）似乎没有使把图灵检验当作思维等等真正检验的支持者忧虑。无论如何，他们的观点时常倾向于不必等太长时间，譬如讲到2010年，一台电脑就能实在地通过这一检验。 （图灵原先提出，到2000 年，对一位“中等的”质问者仅仅五分钟的提问，电脑的成功率为百分之三十。）这意味着，他们相当有信心，这一不公平不会显著地延迟这一天的到来！所有这些事体都与根本问题有关：也就是这一操作的观点是否实际上为判断一个对象中存在精神的品质提供一族合理的判据？有些人会竭力争论说它不是。不管模仿得多么有技巧，终究不和实在的东西一样。我在这一方面的看法是比较中庸。我倾向于相信，作为一般的原则，不管是多么巧妙的模仿，应该总能被足够巧妙的探测检验得出来，尽管这只是信念（或科学乐观主义）而不是已被证明的事实。这样，总的来说，我准备把图灵检验接受为在它的选定范围内是粗略成立的。也就是说，如果电脑对这些问题的确能以一种和人不能区分的方式回答，并如此适当地①一致地愚弄了我们有理解力的质问员，那么在缺乏任何相反的证据下，我猜想电脑实际上是在思维、感觉等等。我在这儿用的这个词，譬如 “证据”、“实际上”和 “猜想”，其含义是当提到思维、感觉或理解、或尤其是意识时，我用这些概念去表明实际客观的 “事体”，它在物理形态上的存在与否是我们要确定的某种东西，而不仅仅是语言上的方便！我把这当作一个关键点。我们在所有能得到的证据的基础上作猜测，以辨别这种品质的存在。（这和譬如讲，天文学家想辨别遥远恒星的质量，在原则上没有什么不同。）必须考虑哪一些反证据呢？关于这一点要在预先立下规则是很困难。但是我要弄清楚的是，仅仅说电脑是由晶体管、导线等等而不是由神经元、血管等等构成的事实本身，我不认为是反证据。我在心里想到的是，在将来的某一时候可以发展出成功的意识理论，这里成功的含义是，它是一个连贯的适当的物理理论，以一种美丽的方式和物理理解的其余部分相协调，而且使它的预言精确地和人类声称何时、是否、到何等程度他们自己觉得是意识的精确相关，而且这一理论在考虑我们电脑的想象的意识方面的确关系重大。人们甚至可以摹想按照这一理论的原则建造的 “意识探测器”。对于人的主体它是完全可靠的，但在电脑的情形给出和图灵检验相左的结果。在这种情形下，人们必须非常小心地解释图灵检验的结果。我似乎觉得，人们对图灵检验的合适性的问题的态度部分地依赖于他对科学技术如何发展的期望。我们以后必须再来考虑其中的一些问题。----------------------- Page 24-----------------------人工智能人工智能是近年来引起很大兴趣的一个领域，经常被简写成 “AI”。AI 的目标是用机器，通常为电子仪器，尽可能地模拟人的精神活动，并且或许在这些方面最终改善并超出人的能力。AI 的结果至少在四个方向是有趣的。尤其是有关机器人的研究，它在很大的程度上是有关工业对可实行“智力”的，也就是万能和复杂的、原来需要人干预或控制的任务的机械仪器的实际需要，并使他们以超过任何人的能力的速度和可靠性，或者在人类处于危险的各式各样条件下运行。还有专家系统的发展颇具商业和一般的兴趣，在这系统中整个职业的，譬如医学、法律等等的主要知识都能编码载入电脑的系统知识库里！这些职业人员的经验和专长能被这种系统