皇帝新脑-3

仪器对自己的苦乐度的反应。人们经常用一种拟人化的语言，以一种叙述性的、通常是滑稽的方法来描述机器的行为：“今天早晨我的车仿佛不想开拔”；或“我的手表仍然认为这是加利福尼亚时间”；或“我的电脑宣布，它不理解上一条指令，而且不知道下一步要做什么。”我们当然不是真正地表明车实际上会要什么，或者手表在思维，或者那台电脑①真的宣布任何事情，或者它理解甚至知道自己在做什么。尽管如此，假使我们仅仅在它们企图的意义上而不是按字面宣布上接受这样的陈述，则它们可以是描述性的，并且对我们自己的理解有真正的帮助。我将会对AI的有关各式各样建造起来的仪器所具有的精神品质的声称采取类似的态度，而不顾及他们所企图想望的！如果我同意说，格雷·瓦尔特乌龟会饥饿，那只是在半开玩笑的意义上这么说的。如果正如上面所摹想的，我准备对苦乐值使用诸如“痛苦”或“快乐”等等术语，只是因为我发现其和我自己的精神状态的行为有一定的相似性，这些术语有助于我对其行为的理解。我不是暗示这些类似真的是特别①譬如讲在1989年！接近，或者不存在其他无意识的以更加类似得多的方式影响我行为的东西。接近，或者不存在其他无意识的以更加类似得多的方式影响我行为的东西。从AI得到之外，还存在有更大量的东西。尽管如此，我相信AI实现了一种值得尊敬和慎重处理的严肃的情势。我在说到这些时，并不意味着在人工智能的模拟中，如果有的话，有非常多的成就。但是人们必须心中有数，这个学科还是非常年轻的。电脑会变得更快速，具有更大的可快速存取的空间、更多的逻辑元，并可并行地进行更大数目的运算。在逻辑设计和程序技术方面将会有所改善。这些机器，这种AI哲学的载体将在它们的技术能力方面得到大幅度的改善。此外，该哲学本身也不是固有地荒谬的。也许电脑，也就是当代的电脑的确能非常精确地模拟人类的智慧。这种基于今天被理解的原则，但是具有更伟大得多的能力、速度等等的电脑一定会在近年内被制造成功。也许甚至这样的仪器将真正是智慧的；也许它们会思维、感觉以及具有精神。或者它们也许还制造不出来，还需要一些目前完全缺乏的原则。这些都是不能轻易排斥的问题。我将尽我所见地提出证据。我将最终提出自己的看法。强人工智能和西尔勒中文屋子强人工智能和西尔勒中文屋子度7。根据强AI，不仅刚才提到的仪器的确是智慧的并且有精神等等，而且任何计算仪器，甚至最简单的机械的，诸如恒温器的逻辑功能都具有某种精神的品质8。这种观点认为精神活动只不过是进行某种定义得很好的、经常称作算法的运算。下面我将精确地说明算法实际上是什么。此刻暂且把算法简单地定义为某种计算步骤就已足够了。在恒温器的情形下，其算法至为简单：仪器记录其温度是否比设定的更高或更低，然后使线路在前面情形时断开，而在后面情形时接通。对于人脑的任何有意义的精神活动，其算法必须比这远为复杂得多，它和恒温器的简单算法在程度上具有极大的差别，而在原则上则相同。这样，根据强AI，在人脑的主要功能（包括它的一切的意识呈现）和恒温器之间的差别只在于，在头脑的情形中具有更大得多的复杂性（或许“更高级的结构”，或“自省性质”，或其他可赋予算法的属性）。按照这一观点，至为重要的是，所有精神品质，譬如思维、感情、智慧、理解、意识都仅仅被认为是这一复杂功能的不同侧面；也就是说，它们仅仅是头脑执行的算法的特征。任何特殊算法的价值在于它的表现，也就是它的结果的精确，它的范围，它的经济性和它可运行的速度。一种想和人脑中假想的运行的算法相比拟的算法一定是非常了不起的东西。如果头脑中存在有这一类算法，强AI支持者肯定作此断言，那么在原则上它可在一台电脑上执行。假定它不受存储容量和运算速度的限制的话，的确可在任何当代的通用电子电脑上执行。（我们以后去考虑普适图灵机时，这一评论就会得到证实。）人们预料，在不太远的将来大型快速电脑将会克服任何这类限制。一旦这样的一种算法能被找到，它就能通过图灵检验。强AI支持者就会宣布，只要执行该算法，它自身就会经验到感情，具有意识，并且是一种精神。绝不是每一个人都同意，可用这类方法把精神状态和算法相等同。美国哲学家约翰·西尔勒（1980，1987）尤其反对这种观点。他引用过这种例子，即假定有一台适当地编了程序并已经实际上通过了简化的图灵检验的电脑，但是他以有力的论证支持如下观点，即便如此，这台电脑仍然完全不具备和理解有关的精神属性。其中一个例子是基于罗杰·施安克（施安克和阿伯勒逊1977）设计的电脑程序之上。该程序的目的是为理解简单的故事提供模拟，例如：“一个人进入餐馆并订了一份汉堡包。当汉堡包端来时发现被烘跪了，此人暴怒地离开餐馆，没有付帐或留下小费。”第二个例子是：“一个人进入餐馆并订了一份汉堡包。当汉堡包端来后他非常喜欢它；而且在离开餐馆付帐之前，给了女服务生很多小费。”作为对“理解”这一故事的检验，可以询问电脑，在每一种情形下此人是否吃了汉堡包（这一事实在任一故事中都没有说清）。电脑对这类简单的故事和问题可给出和任何讲英文的人会给出的根本无从区别的回答，也就是对于这些特定的例子，第一种情形是“非”，而第二种情形是“是”。这样一台机器已在这一非常有限的意义上通过了图灵检验！问题可给出和任何讲英文的人会给出的根本无从区别的回答，也就是对于这些特定的例子，第一种情形是“非”，而第二种情形是“是”。这样一台机器已在这一非常有限的意义上通过了图灵检验！人们对西尔勒的论证提出了许多异议。我将只提到我认为具有重要意义的那些。首先，在上面用到的“不理解任一个词”的短语也许有容易使人误导的东西。理解和模式之间正与它和单独词汇之间有一样多的关系。在执行这类算法时，在不理解许多个别词汇的实在意义的情形下，人们可以知觉这些符号构成的模式的某些东西。例如，中国字的“汉堡包”（如果，真的有这个词的话）可用某一其他的菜譬如讲“炒面”来替换，而故事不会受到重大影响。尽管如此，我觉得可以合理地假设，如果人们仅仅跟踪着这种算法细节的话，（即使把这种代换认为不重要）只传递了该故事中很少的实际意思。其次，人们必须计入这个事实，如果用人类的操纵符号来执行的话，在正常情形下甚至执行一个相当简单的电脑程序也会是非同寻常的冗长和繁琐。（这毕竟正是为何我们让电脑来为人类做这种事的原因！）如果西尔勒真的以这种提议的方式实行施安克的算法，那么仅仅是为了得到哪怕是一个单独问题的答案，他很可能要花费许多天、许多月甚至许多年极其枯燥的工作，这根本不像是一位哲学家的活动！然而，由于我们在这里主要关心原则的而不是实践的事体，所以我仿佛觉得这不是一个严重的反对。在具有和人脑相当的足够的复杂性、并因此适当地通过图灵检验的假想的电脑程序中引起了更多的困难。任何这类程序都是极可怕地复杂。人们可以想象，为了回答甚至相当简单的图灵检验问题，这一段程序的运算会涉及到如此多的步骤，以至于在一个正常人的一生中根本没有可能用手完成这一算法。在没有这种程序的情形下，这是否的确如此还很难说9。但是，依我的观点，这一极其复杂的问题无论如何不能简单地不予理睬。是的，我们在这里关心的是原则的事体，但是一个算法要呈现出精神品质，其复杂性就要达到某一“临界”量，我认为这是合情理的。这一临界量也许是如此之大，复杂到这等程度的算法，由任何人以西尔勒摹想的样子用手来进行，根本就是不可能想象的。西尔勒本人允许一整队不能讲中文的符号操作员去取代原先中文屋子里的孤独者（“他自己”），以此来抵抗上面的反对。为了得到足够大的数目，他甚至想象把它的屋子用印度整个国家来代换，现在它的全部人口（除了理解中文的人以外！）都来从事符号操作。虽然这在实践上是荒唐的，但在原则上却不是，而且该论断在本质上和以前是一样的：尽管强AI宣称只要实现适当的算法即会诱导出“理解”的精神品质，这些符号操作员仍然不理解这故事。然而，现在另有一种反对正开始幽然逼近。这些单独的印度人难道不是比起来更像人脑中的神经元而不像整个人脑本身吗？没人认为神经元本身会单独地理解这个人的思想，神经元的激发明显地构成人脑在进行思考时的物质活动，为何要期望单个印度人去理解这中文的故事呢？为了答复这一诘问，西尔勒指出，如果在印度没有一个单独的人理解这一故事，而真实的国家却能理解显然是荒唐的。他论争道，一个国家正像一台恒温器或一辆汽车与“理解”毫不搭界，而单独的个人却有关系。这一论争，比前面的那个苍白无力得多。我认为，西尔勒的论证在只有一个单独的人在实行算法时力量最强大，这时我们只限于注意一个不复杂到可由一个人在短于一生的时间内实际执行的算法的情形。我认为他在建立这一结论的论证不够严格，这就是不存在和一个人实行那个算法相关的离体的某种类型的“理解”，而且这种理解的存在并不以任何方法反射到他自身的意识上去。然而，我和西尔勒都同意，至少可以说，这种可能性被减少到很微小的程度。我认为西尔勒的论证对之还有相当的力量，即使它还不完全是结论性的。施安克的电脑程序所具有的这类复杂性的算法不能对其实行的任何任务有丝毫真正的理解，对这一点的展示是相当令人信服的，而且它（仅仅）暗示，不管一种算法是多么复杂它都不能自身体现真正的理解。这和强AI的声称相矛盾。就我所能看到的，强AI观点中还有其他非常严重的困难。强AI观点就只管算法。这个算法是由头脑、电脑、印度整个国家、轮子和齿轮还是由一套水管系统来执行都是一样的。其观点是，对于被认为由算法所代表的“精神状态”，只有它的逻辑结构是有意义的，这与那个算法的特殊的物理体现完全无关。正如西尔勒所指出的，这在实际上导致了一种“二元论”的形式。二元论是由极富影响力的十七世纪的哲学家兼数学家雷恩·笛卡尔所提倡的，它断言存在物质的二种不同的形式：“精神的东西”和通常物质。这两类物质的一种是否并且如何去影响另一种是个额外的问题。关键是认为精神的东西不是由物体所构成，并能独立于它而存在。强AI的精神东西是算法的逻辑结构。正如我刚评论过的，一个算法的特殊的物理体现，是完全无关的某种东西。算法有某种离体的“存在”，这和它的按照物理的实现完全分离。我们要多么认真地对待这种存在是我在下一章还要讨论的一个问题。它是抽象数学对象的柏拉图实在的一般问题的一部分。此刻我且回避这一般的问题，而且仅仅评论强AI支持者所仿佛的确相信的算法形成它们思维、感情、理解以及意识、知觉的“物质”。正如西尔勒指出过的，强AI的立场似乎把人们逼向极端的二元论，也就是强AI支持者最不愿意与之打交道的观点，这真是富有讽刺意味！这就是在道格拉斯·霍弗斯达特（1981）的题为《和爱因斯坦头脑谈话录》的对话中所论证的事件背后的两端论。他本人是强AI的主要提议者。霍弗斯达特捏造出一本极厚的书，假想它能包含对阿尔伯特·爱因斯坦头脑的整个描述。正如活着的爱因斯坦要回答的那样，只要简单地翻阅该书，并仔细地按照所提供的细致的说明，任何人愿意问爱因斯坦的问题都能得到回答。当然，正如霍弗斯达特仔细地指出的那样，“简单”是十足的误称。但是他的宣称是，在图灵检验的操作意义上，这本书在原则上完全等效于实在的爱因斯坦的可笑地迟缓的复件。这样，按照强AI的论争，这本书可像爱因斯坦本人那样思维、感觉、理解和知觉，但是也许是以极慢的节律生活（这样，从书——爱因斯坦看来，外部世界似乎以疯狂的高速度闪现）。由于这本书被认为仅仅是组成爱因斯坦“自己”的算法的特殊体现，它实际上就是爱因斯坦。但是，现在出现了新的困难。这本书也许从未被打开过，或者它被无数追求真理的学生和研究者熟读。这本书怎么“知道”这种差别呢？这本书也许不必被打开，它的信息可由X射线立体扫瞄术或其他技术的魔法取出。爱因斯坦的知悉是否只有当这本书被考察时才被唤起呢？如果两个人在两个完全不同的时刻去问该书同样的问题，他是否发觉是发生了两回？或者那是否使爱因斯坦知觉的同一状态在两个分开的和时间不同的事件中实现？或许只当该书被改变时，他的知觉才被唤起？毕竟在正常情况下，当我们知觉从影响我们记忆的外面世界接受到一些信息时，我们精神状态确实稍被改变。如果是这样的话，这是否意味着，算法的“适当的”改变（我在这儿把记忆的储存包含到算法部分中去）而不是（或者以及）算法的激活被认为和精神事件相关？或者即便书——爱因斯坦从未被任何人或任何东西考察或扰动过，它是否维持在完全自知悉的状态？霍弗斯达特触及了其中的一些问题，但他完全不想去回答这些，或者和我们大多数人妥协。去激活或者以物理形式体现一个算法是什么意思呢？改变一个算法是否和仅仅抛弃一个算法并且用另一个取代之在任何意义上不同呢？这些究竟和我们意识知悉的感觉有关吗？读者（除非他或她本人是强AI支持者）也许会惊讶，为什么我为了这样明显地荒谬的思想花了这么多的篇幅。事实上，我不认为这一思想在本质上是荒谬的，它仅仅是错误的！在强AI的背后的推理中的确有某种必须慎重对付的力量，我将解释这一点。我的观点是，这些思想若被适当地修正的话，还具有一些魅力，正如我还将告知诸位的。此外，依我看法，西尔勒表达的特殊的矛盾的观点还包含某些严肃的困惑和表面的荒诞，尽管如此，我在一定程度上和他同意！西尔勒在他的讨论中似乎隐含地接受，当代的电脑，但是还加上大大加快了的动作速度和快速存取的记忆容量（而且可能并联运行），可以在不太遥远的将来体面地通过图灵检验。他是准备接受强AI的论点（以及其他大部分“科学”观点）“我们是任何电脑程序的体现”。此外，他还附和这种说法：“头脑理所当然地是一台电脑。由于任何东西都是一台数字电脑，头脑也是。”10西尔勒坚持，人脑（它可有精神）和电脑（他论证说没有精神），两者都可以执行同样算法，两者功能之间的差别完全在于各自的物质构成。但是，由于他不能解释的一种原因，他声称生物体（头脑）可有“意图性”和“语义性”，他把这些定义为精神活动的特征，而电子仪器没有。我觉得这对于得到科学的精神理论没有什么用处。也许除了生物系统（而我们刚好是这样的系统）的演化来的历史的“方式”以外，关于它有什么特殊的东西特地被恩准获得意图性或语义性？我觉得这一断语就像教义一样地令人可疑，甚至也许不比强AI的坚持的只要执行一个算法即能召唤起意识知觉的状态的说教更加独断！我的意思是，西尔勒以及大量其他的人被电脑专家引入歧途。而这些电脑专家又依序地被物理学家引入歧途。（这不是物理学家的过错。他们甚至不知道发生了任何事情！）“每一件东西都是一台电脑”的信念似乎已被广泛蔓延。我在本书的愿望是为了表明，为何以及如何情况并非如此。硬件和软件硬件和软件刷线路、晶体管、导线、磁性存储空间等等），包括了把所有东西都联结起来的方法的全部细节。相应地，术语软件是指可在机器上进行的各种程序。阿伦·图灵的一个杰出的发现便是，任何其硬件达到一定程度复杂性和灵活性的机器，都等效于任何其他同类机器。这一等效性的含义是，对于任何两台这样的机器A和B，存在一段特别的软件，如果将其赋予机器A，就会使之完全像机器B一样地动作；类似地，还存在另一段特殊的软件，如果将其赋予机器B，就会使之和机器A完全一样地动作。我在这里用词“完全一样”是指，对任何给定的输入（在对机器提供了转换软件之后再提供它）机器的实际输出，而不是指每台机器用以产生这输出所花的时间。如果任一台机器在任何阶段用光了用于计算的存储空间，我还允许其召来一些（在原则上无限制的）外部空白空间的“粗纸”供应，可采用磁带、磁盘、磁鼓或任何别的什么。事实上，对机器A和B执行同一任务所需时间的不同值得严肃地加以考虑。例如，也许有这种情形，A在执行一特别任务时比B快一千倍；也许还有这种情形，同样的一对机器，存在某一其他任务，这时B比A快一千倍。此外，这里计时可以极大地依赖于所用的转换软件的选取。这是非常“原则的”讨论，人们不甚关心诸如在一段合理的时间内完成他的计算的实际的事体。我将在下一章把在这里提到的概念弄得更精确些：机器A和B是所谓普适图灵机的实例。实际上，所有现代通用的电脑都是普适图灵机。这样，在上述的意义上，所有通用的电脑都是互相等效的：假使我们不关心运算的速度和存储空间的可能限制，则它们之间的差别可完全地被包摄到软件中去。的确，现代技术已经使得电脑如此快速地运行，并具有如此庞大的储存能力，对于大多数“日常”目的，这些实际考虑对于通常的需求不构成任何严重的限制①，所以这种电脑之间有效的理论上的等价也可认为是在实践的水平上的。技术仿佛已经把有关理想化的计算仪器的纯学术讨论转变或直接影响我们生活的事体。就我所知，作为强AI哲学基础的最重要因素之一是在物理计算仪器之间的这种等价。硬件似乎相对地不重要（也许甚至完全不重要），而软件也就是程序或者算法被认为是要紧的因素。然而，我似乎觉得还有从物理的方向来的更多的重要的基础因素。我将指出这些因素是什么。是什么东西赋于个别人其单独的认同性呢？在一定的程度上，是否正是构成他身体的原子呢？他的认同性是否依赖于构成这些原子的电子、质子和其他粒子的特殊选择呢？至少有两种理由说明不可能是这样子的。首①然而，参阅在第四章结尾处关于复杂性理论和NP问题的讨论。先，任何活人身体的物质都处于连续代换的状态中。这尤其适用于一个人脑的细胞中，尽管在出生后没有产生新头脑细胞的这一事实。在每一活细胞（包括每一个头脑细胞）中的绝大多数原子以及实际上我们身体的整个物质从诞生以来已被代换了许多回。先，任何活人身体的物质都处于连续代换的状态中。这尤其适用于一个人脑的细胞中，尽管在出生后没有产生新头脑细胞的这一事实。在每一活细胞（包括每一个头脑细胞）中的绝大多数原子以及实际上我们身体的整个物质从诞生以来已被代换了许多回。章322页还要进一步地讨论），任意两颗电子必须是完全等同的，这同样地适合于任意两颗质子以及任一特殊种类的两颗粒子。这不仅仅说没有办法把两颗粒子区分开，其陈述比这还要强许多。如果一颗人脑中的一颗电子和一块砖头中的一颗电子相互交换，则系统的态和它过去的态不仅不能区分，而且完全相同11。这同样适用于质子和任何其他种类的粒子，整个原子，分子等等。如果一个人的整个物质内容和他房子里的砖头的相应的粒子相交换，那么在某种强的意义上来讲，没有发生过任何事情。把人和他的房子区分开来的是把这些成份安置的模式，而不是这些成份本身的个性。在与量子力学无关的日常水平上也许存在一个相似的情景。这就是由于电子技术使得我能以文字处理机来打字。当我写到这里时感到特别明显。如果我必须改变一个词，譬如说把“make”改成“made”，我只要简单地把“k”用“d”来取代即可以，或者我可重打整个词。如果我重打，新的“m”是否和旧的“m”一样，或者我是否用同样的字母来取代了它呢？“e”的情形又如何呢？即使如果我简单地用“d”来取代“k”，而不重打这个词，存在刚好在“k”消失和“d”出现从而填上空隙之间的一个瞬息，随着接续着的每一字母（包括“e”）的安置，存在（或者至少有时存在）重排这页以下的波动。然后当“d”插进去时又再次重新计算。（呵，现代没有思想的计算是多么的卑贱！）不管怎么样，在我面前屏幕上看到的所有字母，随着它的每一秒钟的六十次扫描，仅仅是一个电子束的轨迹的缝隙。如果我取走了任一字母并用同一字母取代之，在代换后的情形是否一样，或仅仅和原先的不可区分？认为第二种观点（也就是“仅仅是不可区分的”）可以和第一种观点（也就是“同样”）相区分似乎是痴人说梦。至少在字母不变时可以合理地说这情形是同样的。而等同粒子的量子力学的情形也是如此。把一颗粒子用另一颗等同粒子取代时量子态不受丝毫影响。这情形的确被认为和以前的是同样的。（然而，正如我们在第六章将要看到的，这一差异在量子力学的框架中实际上不是微不足道的。）上述关于在一个人体中连续地置换原子的评论，是在经典的而不是量子物理的框架下进行的。它是在似乎坚持每一原子的个性有意义的情形下措词的。经典物理在这一描述的水平上把原子当作单独物体的近似是足够好的，我们不会错得太离谱。假设原子在运动时和它们等同的伙伴分离得相当开，那么由于在事实上每一颗原子的轨道是连续的，以至于人们想象能够看守住每一颗并可以协调地认为它们坚持各自的本体。从量子力学的观点提到原子的个性只不过是一种方便的说法，但是在刚才考虑的水平上它是一个足够协调的描述。观点提到原子的个性只不过是一种方便的说法，但是在刚才考虑的水平上它是一个足够协调的描述。强AI的支持者走得比这更远。如果这样一种形态的信息内容能被翻译成另