皇帝新脑-4

知识库所取代吗？所能指望得到的是否只不过是事实的罗列以及意义广泛的前后参考的长表？电脑能否呈现 （或模拟）出真正的智慧肯定具有相当大的社会含义。心理学是和人工智能有直接关系的另一领域。人们希望通过利用电子仪器来模拟人脑或某些其他动物头脑的行为，倘若发现做不到，也可以知道有关头脑工作的某些重要的东西。最后，还存在一个乐观的希望，就是由于类似的原因，AI 可为精神概念的意义提供洞察，并为其深刻的哲学问题提供一些答案。迄今为止，AI 已进展到何等程度呢？让我来总结是有一些困难。在世界各地存在许多活跃的小组，而我只熟悉这工作的一小部分的细节。尽管如此，可以公正地说，虽然的确做了许多聪明的事，对真正智慧的任何模拟还是非常遥远的事。为了使读者领略这个学科的风味，我首先提到早先的 （仍然是令人印象深刻的）成就，以及后来在电脑下棋方面的重要进展。3W ·格雷·瓦尔特的“乌龟”是 1950年代早期制造的第一批人工智能仪器之一。在电池快用光前，它会以自己的动力在地面上四处爬行，然后它跑到离得最近的电插座那儿，把自己插上给电池充电。当充满了电以后，自己会从插座拔出，并重新在地面上爬行！从那时起人们制造出来许多类似的东西 （例如，参见瓦尔兹1982）。另一独立发展的线索是以特雷·维诺格拉德在 1972年设计的电脑程序为例子，它在模拟中可以和一堆不同形状和颜色的木块打交道，以不同的顺序和排列把一块放在另一块的上头。尽管早期获得这类成功，人们证明了，要设计甚至一个简单的能操纵自如的、避开人类看来 “显然”需用动作来躲开的障碍物的、连接的“机器人手臂”是何等的困难。视场的解释通常也是AI 步骤在目前根本无法接近人脑 （以及绝大多数其他动物的头脑）似乎能“轻而易举”做到的那种程度的领域。K ·M ·柯尔贝在1960年代中期发展的电脑程序也许更和图灵检验相连贯。它如此成功地模拟成一位精神疗法专家，以至于某些病人发现自己宁愿要电脑而不要人类的医疗家，并且对电脑比对人类的对手更愿把自己的----------------------- Page 25-----------------------内心袒露得更多些。可将下列 （通过电传机）的交谈视作在电脑“医生”4和病人之间的这种交流的一个例子 ，医生：我可以为你效劳吗病人：我不知道医生：请告诉我一些情形病人：不医生：请你说得仔细些病人：今天我厌烦得很医生：你知道这是什么原因病人：是的我老了医生：请继续讲病人：仿佛任何事情都激不起我的兴致医生：请更多地告诉我你的这种感觉病人：我也有些知道为何我会这样感觉医生：是吗病人：我似乎在想有一个家医生：什么东西使你有这样的想法病人：它是一种挑战医生：为什么那对你是重要的虽然这会给你一种电脑具有某种理解力的可怕印象。在事实上它一点也没有，只不过是跟着某种相当简单的机械规则而已。（还存在一个和它相“颠倒”的系统，这时电脑装成一个痴呆症病人，给出教科书的所有答案和症状，并能捉弄一些医科学生，使之相信是一位病人在提供回答！）电脑下棋也许为机器能显示可认为是 “智慧行为”的最好例子。现在（1989）一些机器在与人对奕时实际已达到极受尊敬的水平，达到了 “国际大师”的水准。 （为了比较起见，世界冠军卡斯帕洛夫评分高于2700，而这些电脑的评分略低于2300。）特别是，邓恩和卡斯·斯帕拉克连 （为忠诚优越商业微处理机）写的电脑程序已达到2110 的 （Elo）评分，并得到USCF “大师”称号的奖。主要由卡内基·梅隆大学的徐宪编程序的“深思熟虑”更是令人印象深刻，它的评分约为2500Elo，最近在一次下棋锦标赛中 （1988年 11月，加利福尼亚，长堤）首次取得了 （和大师托尼·迈尔斯）共享第一奖，并实标上第一回击败了一位大师 （本特·拉申）的成5就！ 现在下棋电脑也精于解答棋术问题，它在这方面的造诣轻而易举地6超过了人类 。下棋机除了精确的计算能力外，还大大地依赖于 “博学多闻”。值得评论的是，只要落子动作要求非常快，下棋机总的来说比相当的奕手高明一些。如果每一着允许的时间更长，则奕手的表现相对地比机器好。人们可依照如下事实来理解这一切，电脑是基于准确和快速的广义的计算来作----------------------- Page 26-----------------------决策的，而奕手则利用依赖于相对缓慢的意识评定的 “判断”。利用这些人的判断来显著地减少必须在每一计算步骤中认真考虑的可能性，当有时间时，可以得到比不用这类判断而只用简单计算和直接排除可能性的机器更深刻的分析。在玩困难的东方围棋时，这一差别就更显著，那里每一步的可能数目比国际象棋大得多。意识和形成判断之间的关系，将是我后面尤其是第十章论证的中心。----------------------- Page 27-----------------------用人工智能得到 “快乐”和“痛苦”人工智能宣称为理解精神品质，譬如快乐、痛苦、饥渴等等提供了途径。让我们举格雷·瓦尔特的乌龟为例子。它的行为模式在电池快用完时就要改变，然后它以被设计好的行为方式补充自己的能量存储。这和人类或任何动物感到饥饿时的行为非常类似。当格雷·瓦尔特乌龟以这种方式行为时，说它饥饿了并没十分歪曲语言。其中的某些机制对它电池的状态很敏感，低到一定点时就会让乌龟转换到不同的行为模式。在动物饥饿时，除了其行为模式的改变更复杂、更微妙之外，无疑存在某些类似的动作。它不是简单地从一种行为模式改变到另一种行为模式，而是存在一种以确定方式的行为倾向的变化，当补充能量供应的需求增加时，这些变化就会更强烈 （达到某一点）。类似地，某些AI 的支持者摹想，可以这种方式来适当模拟诸如痛苦或快乐的概念。让我们把情形简化，并只考虑从极端 “痛苦”（分数为-100）到极端 “快乐”（分数为+100）的单独的 “感觉”测度。想象我们有一台仪器，譬如讲是某种电子的、具有记录它自己的 （假想的）“快乐——痛苦”度量，我把它称作 “苦乐表”。这一仪器具有一定的行为模式和一定的内部的 （譬如它的电池状态）或外部的输入。其想法是把它开动以使其苦乐度取最大值。可能会有许多影响苦乐度的因素。我们肯定可以做这样的安排，使得电池中的电荷就是其中的一个因素，低电荷算作负的，而高电荷算作正的，但是还有其他因素。也许我们的仪器装有某些太阳光电池，这是获取能量的另一种手段。这样，当光电池起作用时就不消耗电池的能量。我们可以把光电池朝向光线以增加其苦乐度。这就是不存在其他因素时它所要做的事。 （在实际上，格雷·瓦尔特乌龟通常避开光线！）我们需要某种实行计算的手段，使得它能弄清它上面部分的不同动作最终在它的苦乐度上的可能效应。可以引进概率权重，使得计算在苦乐度表上具有更大或更小的效应，依其所根据的数据的可靠性而定。还必须为我们仪器提供仅仅为了维持它的能量供应以外的其他 “目的”，否则我们就没有办法去把 “痛苦”从“饥饿”中区别出来。在此刻要求我们仪器有生育等等机能无疑是太过份了，性的问题不予考虑！但是，我们也许能对它注入一种和其他同类仪器相陪伴的 “需求”和它们相遇就得到正的苦乐值。我们或者可以为了其自身的缘故 “渴望”学习，使得只要储存有关外部世界的事实即能在苦乐表上得正分 （我们可以更自私地安排在为我们作各种服务时得到正分，正如一个人在制造机器仆人时所要做的那样！）也许有人会论争道，由于凭一时高兴把这种 “目的”加到我们的仪器上显得有些做作。但是，这和自然选择加在作为个体的我们身上的，在很大程度上是由于传宗接代的需求所支配的一定 “目标”，并没有什么非常大的差别。----------------------- Page 28-----------------------现在，假设我们的仪器按照所有这一切已被成功地造出。我们有什么权利去宣称它的苦乐值为正时它确实感到快乐，而苦乐值为负时感到痛苦呢？AI （或行为主义）的观点是，我们简单地从仪器行为的方式来判断。由于它以一种尽可能增加其正值的 （并且尽可能久地）以及相应地尽量避免负值的方式行为，那么我们可以合理地把它的值的正的程度定义为快乐的感觉，而相应地把负值定义为痛苦的感觉。人们会说，此定义的 “合理性”正是来自于人类对于快乐和痛苦以目标方式反应的这一事实。当然，正如我们都知道的，人类的事情实际上并不像这么简单：我们有时似乎特地招惹痛苦，故意回避某种快乐。很清楚，我们的行为实在是由比这些更复杂得多的判据所导引的 （参阅德涅特（1978），190—229 页）。但是作为一个非常粗糙的近似，我们的行为的确是避免痛苦和追求快乐。对于一个行为主义者来说，这已经足够在类似的近似水平上，为我们的仪器的苦乐度和它的痛苦快乐评价的相认同提供正当的理由。这种认同仿佛也是AI理论的一个目的。我们应该问：在我们的仪器的苦乐度为负或为正时，它是否真正分别地感觉到了痛苦或快乐呢？我们的仪器在根本上是否能感觉到什么呢？行为主义者或者会斩钉截铁地说 “显然如此”，或者把这一问题斥为无稽之谈。但是，我觉得这里很清楚地存在一个要考虑的、严肃的困难问题。它对我们自己具有不同种类的影响。有些像痛苦或快乐是可意识的；但是还有其他我们不直接知道的。这可由一个人触摸到热火炉的经验得到清楚的阐明。他在甚至还未感到痛楚之前就采用了抽手回来的不情愿的动作。事情似乎变成，这种不情愿的动作比痛苦或快乐的实际效应更接近于我们仪器对自己的苦乐度的反应。人们经常用一种拟人化的语言，以一种叙述性的、通常是滑稽的方法来描述机器的行为： “今天早晨我的车仿佛不想开拔”；或“我的手表仍然认为这是加利福尼亚时间”；或 “我的电脑宣布，它不理解上一条指令，而且不知道下一步要做什么。”我们当然不是真正地表明车实际上会要什①么，或者手表在思维，或者那台电脑 真的宣布任何事情，或者它理解甚至知道自己在做什么。尽管如此，假使我们仅仅在它们企图的意义上而不是按字面宣布上接受这样的陈述，则它们可以是描述性的，并且对我们自己的理解有真正的帮助。我将会对AI 的有关各式各样建造起来的仪器所具有的精神品质的声称采取类似的态度，而不顾及他们所企图想望的！如果我同意说，格雷·瓦尔特乌龟会饥饿，那只是在半开玩笑的意义上这么说的。如果正如上面所摹想的，我准备对苦乐值使用诸如 “痛苦”或“快乐”等等术语，只是因为我发现其和我自己的精神状态的行为有一定的相似性，这些术语有助于我对其行为的理解。我不是暗示这些类似真的是特别① 譬如讲在 1989 年！----------------------- Page 29-----------------------接近，或者不存在其他无意识的以更加类似得多的方式影响我行为的东西。我希望使读者清楚，我的意见是，对精神品质的理解，除了直接从AI得到之外，还存在有更大量的东西。尽管如此，我相信AI 实现了一种值得尊敬和慎重处理的严肃的情势。我在说到这些时，并不意味着在人工智能的模拟中，如果有的话，有非常多的成就。但是人们必须心中有数，这个学科还是非常年轻的。电脑会变得更快速，具有更大的可快速存取的空间、更多的逻辑元，并可并行地进行更大数目的运算。在逻辑设计和程序技术方面将会有所改善。这些机器，这种AI 哲学的载体将在它们的技术能力方面得到大幅度的改善。此外，该哲学本身也不是固有地荒谬的。也许电脑，也就是当代的电脑的确能非常精确地模拟人类的智慧。这种基于今天被理解的原则，但是具有更伟大得多的能力、速度等等的电脑一定会在近年内被制造成功。也许甚至这样的仪器将真正是智慧的；也许它们会思维、感觉以及具有精神。或者它们也许还制造不出来，还需要一些目前完全缺乏的原则。这些都是不能轻易排斥的问题。我将尽我所见地提出证据。我将最终提出自己的看法。----------------------- Page 30-----------------------强人工智能和西尔勒中文屋子7有一种称作强人工智能的观点在这些问题上采取相当极端的态度 。根据强AI，不仅刚才提到的仪器的确是智慧的并且有精神等等，而且任何计算仪器，甚至最简单的机械的，诸如恒温器的逻辑功能都具有某种精神8的品质 。这种观点认为精神活动只不过是进行某种定义得很好的、经常称作算法的运算。下面我将精确地说明算法实际上是什么。此刻暂且把算法简单地定义为某种计算步骤就已足够了。在恒温器的情形下，其算法至为简单：仪器记录其温度是否比设定的更高或更低，然后使线路在前面情形时断开，而在后面情形时接通。对于人脑的任何有意义的精神活动，其算法必须比这远为复杂得多，它和恒温器的简单算法在程度上具有极大的差别，而在原则上则相同。这样，根据强AI，在人脑的主要功能 （包括它的一切的意识呈现）和恒温器之间的差别只在于，在头脑的情形中具有更大得多的复杂性 （或许“更高级的结构”，或“自省性质”，或其他可赋予算法的属性）。按照这一观点，至为重要的是，所有精神品质，譬如思维、感情、智慧、理解、意识都仅仅被认为是这一复杂功能的不同侧面；也就是说，它们仅仅是头脑执行的算法的特征。任何特殊算法的价值在于它的表现，也就是它的结果的精确，它的范围，它的经济性和它可运行的速度。一种想和人脑中假想的运行的算法相比拟的算法一定是非常了不起的东西。如果头脑中存在有这一类算法，强AI 支持者肯定作此断言，那么在原则上它可在一台电脑上执行。假定它不受存储容量和运算速度的限制的话，的确可在任何当代的通用电子电脑上执行。 （我们以后去考虑普适图灵机时，这一评论就会得到证实。）人们预料，在不太远的将来大型快速电脑将会克服任何这类限制。一旦这样的一种算法能被找到，它就能通过图灵检验。强 AI 支持者就会宣布，只要执行该算法，它自身就会经验到感情，具有意识，并且是一种精神。绝不是每一个人都同意，可用这类方法把精神状态和算法相等同。美国哲学家约翰·西尔勒 （1980，1987）尤其反对这种观点。他引用过这种例子，即假定有一台适当地编了程序并已经实际上通过了简化的图灵检验的电脑，但是他以有力的论证支持如下观点，即便如此，这台电脑仍然完全不具备和理解有关的精神属性。其中一个例子是基于罗杰·施安克 （施