皇帝新脑-43

方面，由于意识生物似乎有时以这种滑稽的方式行为，因此他们的行为和如果他们没有意识时不同。这样，意识具有某种主动效应！当然，特意给电脑编一道程序使之显得以这种可笑的方式行为是很容易的事（例如，程序指使它到处乱走并咕哝：“啊，亲爱的，什么是生活的意义？为何我在①一些令人信服的证据表明，至少黑猩猩能够自我知觉，在允许黑猩猩摆弄镜子的实验显示了这一点，参阅奥克利（1985）第四章和第五章。这里？我所感到的这个‘自我’究竟是什么”？）。显然地，当无情的丛林自由竞争早就应该根除这种无用的废物，可是为何物竞天择却偏爱人类这种生物！这里？我所感到的这个‘自我’究竟是什么”？）。显然地，当无情的丛林自由竞争早就应该根除这种无用的废物，可是为何物竞天择却偏爱人类这种生物！意识究竟是做什么的？意识究竟是做什么的？这种思想中很可能有一部分真理，但是我对此很难苟同。首先是假定猎物本身方面具有某种预先存在的意识，这样又把自己想象成一台“自动机”根本没有帮助，既然一台自动机按照定义是无意识的，不可能是“活”的东西！无论如何，我可以同样容易想象，一个完全无意识的自动掠捕者可以把它的自动猎物的实际程序作为子程序包含在自身的程序之中。我觉得，把意识牵涉到这种掠捕者—猎物的相互关系中根本没有逻辑上的必要。当然，很难了解自然选择的随机过程怎么会聪明得将这猎物的程序完整的复本给予自动机掠捕者。这听起来与其说是自然选择不如说是间谍活动！而部分程序（图灵机的一段磁带或某种和图灵机磁带近似的东西）对于一个掠捕者没有多大的选择优势。拥有整盘磁带或至少拥有整个自足的部分磁带是不太可能的。所以另一种可能性是，以下的观念或许具有一些真理，也就是从掠捕者—猎物这思路可以推论出某些意识的因素，而不仅是一个电脑方程式。但是，这里并没有抓住意识行为和“程序”行为之间实际的差别是什么的要点。图10.1对着镜子的录像机在自身中形成自身的模型。这使它具备自我知觉吗？上面提到的观念和人们经常听到的意识观点相关，也就是一个系统如果本身具有某种东西的模型时才会“知觉”到该东西，而当它本身具有它自己的模型时才能“自我知觉”。但是，在一段电脑程序中包含另一段电脑程序的描述（譬如一段子程序）并没赋予第一段程序对第二段的知觉。电脑程序的自我参照也不会导致自我知觉。尽管经常听到这种断言，我的看法是，这类讨论尚未能触及知觉和自我知觉的真正问题。一台录像机对之所录下的风景没有知觉；对着镜子的录像机也不具备自我知觉（周10.l）。我想沿着不同的思路进展。我们已经看到，我们头脑中进行的活动不是全部伴随着意识知觉的（尤其小脑的活动似乎是没有意识的）。我们意识思维能做而无意识状态所不能做的事情是什么呢？这问题由于以下事实而变得更加无从捉摸，任何原先需要意识的事显然都可学得会并能无意识地（也许由小脑）执行。可以这么讲，当我们必须形成新的判断以及当预先还没形成习惯时，意识是必需的。想很精确地区别何种精神活动需要意识不是很困难的。也许，正如强人工智能的支持者（以及其他人）所坚持的，我们在“形成新判断”时是在应用某些定义得很好的、却难以了解的“高层次的”算法规则，而我们还未能知道其运作的方式。然而，我想认为有些术语，用来区别有意识和无意识精神活动的，至少可作区分非算法和算法的参考：预先还没形成习惯时，意识是必需的。想很精确地区别何种精神活动需要意识不是很困难的。也许，正如强人工智能的支持者（以及其他人）所坚持的，我们在“形成新判断”时是在应用某些定义得很好的、却难以了解的“高层次的”算法规则，而我们还未能知道其运作的方式。然而，我想认为有些术语，用来区别有意识和无意识精神活动的，至少可作区分非算法和算法的参考：“常识”“自动的”“真理的判断”“盲目地跟随规则”“理解”“编程序的”“艺术鉴定”“算法的”。这些区别也许不那么一清二楚，尤其是因为许多无意识的因素进入我们意识的判断之内：经验、直觉、偏见甚至我们逻辑的正常运用。但是我要宣称，判断本身是意识行为的呈现。所以我提出，头脑的无意识行为是按照算法过程进展，而意识的行为则完全不同，它以一种不能被任何算法所描述的方式进展。颇具讽刺意味的是，我在这里提出的观点和我经常听到的其他观点几乎刚好相反。人们经常说，有意识的头脑以一种“理性的”、人们可以理解的方式行为，而无意识是神秘的。从事人工智能的人们经常宣称，只要能理解意识思维的某些方法，人们就能知道如何让电脑照做，而人们对神秘的无意识过程尚没有解决之道。按照我自己的推理，无意识过程很可能是算法的，但是该算法是极其复杂的，要仔细解开它极为困难。完全有意识的可以合理解释为完全合逻辑的思维，也可以（经常）用算法来表达，但是在完全不同的水平上。我们现在不去思考内部的功能（如神经元激发等等）而是整个思想的运作。这种思想运作有时具有算法的特性（正如早期的逻辑：由亚里斯多德所表达的古代希腊演绎法或者是数学家乔治·布尔的符号逻辑；参阅伽特纳1958），有时它不具有这类特征（正如哥德尔定理以及在第四章所举的例子）。我现在宣称的判断的形成是意识的标志，人工智能专家不知如何用电脑为它编出程序来。人们有时反对，说这些判断的判据毕竟不是有意识的，为什么我要认为这类判断起因于意识呢？但是，这样问就错过了我想要表达的思想要点。我不是要我们有意识地理解我们如何形成意识印象和判断，这会导致我刚提到那种水平上的混淆。构成我们意识印象的原因是意识无法直接触及的。这些必须用比我们现知的实际思想更深的物理水平来考虑。（我要在下面提出设想！）意识印象本身就是（非算法的）判断。我们的意识思维应该有非算法的性质，这是我们前面章节的基本主题。尤其是从第四章有关哥德尔定理的论证得出的结论指出，意识的沉思至少在数学方面有时能够使人用算法不能做到的方式去确定某个陈述的真理性。（我就要仔细地阐释这个论证。）算法本身的确从未确定真理！要使算法只产生谬误和只产生真理一样容易。为了确定一个算法有效与否，人们需要有外在的洞察（后面还要讲到）。我的论断是，在适当的环境下从错误中判断出真理的能力（或从丑恶中得到美丽），正是意识的标志。理性。（我就要仔细地阐释这个论证。）算法本身的确从未确定真理！要使算法只产生谬误和只产生真理一样容易。为了确定一个算法有效与否，人们需要有外在的洞察（后面还要讲到）。我的论断是，在适当的环境下从错误中判断出真理的能力（或从丑恶中得到美丽），正是意识的标志。为什么我说判断的非算法形成是意识的标志呢？有部分原因来自于我自己作为数学家的经验。当我的知觉未能充分注意无意识的算法行为时，我就是不信任它们。在进行某些计算时，把算法当作算法通常是没错，但是对研究中的问题这算法是正确的选择吗？一个简单的例子是，人们学会把两个数乘在一起以及把一个数除以另一个数的算术规则（或人们宁愿借助于算法袖珍计算机），但是人们面对这类问题时何以得知应该乘或除这些数呢？为此，人们需要思考并做出意识判断。（我们很快就会看到，为什么这样的判断至少有时候必须是非算法的！）当然，一旦人们做过大量类似问题，这些数该乘还是该除会变成第二天性，而且可以算法地执行——也许由小脑。在那个阶段不再需要知觉，而且足以放心让他的意识精神去琢磨或沉思其他事情——不过人们必须不时检查该算法是否被导入（即使很细微的）歧途。相同的情形在所有水平的数学思维过程中不断发生。当人们在进行数学过程时通常竭力寻找算法，但是这种努力的过程本身并不是一种算法过程。在某种意义上，一旦找到一个合适的算法，该问题就解决了。此外，用数学来判断某些算法是否精密或合适，需要很多的意识的关注。第四章内描述数学形式系统的讨论也提过类似的情形。人们可从一些公理开始推论出各式各样的数学命题。后者的步骤可以完全是算法的；但是需要一位有意识的数学家去判断这些公理是否合适。在往后第二节讨论中可清楚得知，这些判断必须不是算法的。但在此之前，让我们考虑一种更盛行的有关我们头脑功能及其起因的观点。算法的自然选择？算法的自然选择？执行一种非常复杂的算法，那么我们应该询问这种非常有效的算法从何而来。标准答案当然是“自然选择”。具有头脑的生物在演化时，那些算法比较有效的会有更好的生存倾向，并因此在总体上有更多的后代。由于这些后代从其父母遗传到比较好的算法，因此也比其堂表亲戚带有更有效的算法，所以算法就这样被逐渐改进。由于生物在演化时可能有很多断断续续的现象，所以这种改进不必是稳定的。生物演化可以到达了不起的阶段，就像我们可以（显然地）从人类头脑看到的（比较道金斯1986）。甚至根据我自己的观点，由于我想象头脑许多行为的确是算法的，正如读者从上述讨论中所推论出来的，这个图像必须包含某些真理。而且我强烈相信自然选择的威力。但是我看不出自然选择本身如何能演化算法，这种算法能有意识地判断我们似乎拥有的其他算法是否有效。想象一道平常的电脑程序。它怎么会变成活的呢？显然不能（直接地）由自然选择而来！要有电脑程序人员构思写出这程序并确认它会执行所预定的步骤。（实际上，大多数复杂的电脑程序都含有错误，通常很小，但常常微妙得除了在非常的情形下不会被发现。这种错误的存在不会严重改变我的论证。）有时一个电脑程序本身可由另一个程序（譬如由“主导”电脑程序）“写出”，但是那个主导程序本身是人类才智和洞察的产物；或者该程序只是从许多其他电脑程序的产物拼凑而成。但是在所有的情形下，程序的有效性和概念本身最终要归功于（至少）一个人类的意识。当然，人们可以想象情况也许不必如此，只要有足够的时间，电脑程序可能会自动由某种自然选择的过程演化得来。如果人们相信，电脑程序人员的意识行为本身就是算法，那么他实际上应该相信，算法已用这种方法演化至今。然而使我忧虑的是，一个算法有效性的决定本身不是一个算法过程，我们在第二章已经看过这情形。（一台图灵机实际上会不会停这问题不是用算法能够决定的。）为了决定一个算法实际上行不行，人们需要的是洞察，而不是另一个算法。尽管如此，人们仍能想象某种自然选择过程可以有效产生近似有效的算法。然而，我个人很难相信这种可能。任何这类选择过程只能作用于算法的输出①，而不直接作用于算法行为的基础思想上。这不仅极无效率，而且我相信这肯定行不通。首先，仅从考察其输出是很难确定一个算法究竟是什么。（要构造两个完全不同的简单的图灵机行为非常容易，使两者的输出磁带到第265536位都是一样的，这个差异在整个宇宙的历史中永远①称作“盲视否认”的情况是另一种对盲视的补充。一个事实上全盲的、但坚持他完全能看东西的病人似乎具有推断周围环境的视觉意识！（见撤屈兰德1984，143页。）不会被觉察出来！）此外，一个算法最微小“变化”（譬如一台图灵机在规格上或在它的输入带上轻微的改变）就会使之变成完全无用，很难看出随机的方式如何能产生算法实际的改善。（如果不知道其“意思”的话，甚至故意的改善也是困难的。这一点尤其被如下时常发生的情形所证实。当一道没有说明清楚或者复杂的电脑程序要作一点改变或改正时，而原先的程序人员刚好离开或死去，人们与其试图解开在该程序中暗含的意义和企图，不如将其丢弃后重写可能还容易些！）不会被觉察出来！）此外，一个算法最微小“变化”（譬如一台图灵机在规格上或在它的输入带上轻微的改变）就会使之变成完全无用，很难看出随机的方式如何能产生算法实际的改善。（如果不知道其“意思”的话，甚至故意的改善也是困难的。这一点尤其被如下时常发生的情形所证实。当一道没有说明清楚或者复杂的电脑程序要作一点改变或改正时，而原先的程序人员刚好离开或死去，人们与其试图解开在该程序中暗含的意义和企图，不如将其丢弃后重写可能还容易些！）自然选择的产物确实惊人。有关人类和其他生物的头脑如何作用，我得到的一点认知使我充满了无以言喻的惊奇和赞美之情。单独神经元的作用是非同寻常的，在我们出生之时为了以后需要担负的任务，这些神经元本身以惊人的方式以极大数量的连结组织在一起。不仅是意识本身，而且必须用来支持意识的配件也都是那么令人印象深刻！如果我们能发现，究竟什么品质可以使一个实体成为有意识的，那么我们就可能为自己建造这样的物体。虽然它们可能不符合我们现在所谓的“机器”之辞意。因为这些物体是为了我们目前的任务，也就是为了获得意识而特别设计，所以可想而知，它们比我们更优越得多，它们不必从单独的细胞长大。它们也不必负担它们祖先的“包袱”（头脑或身体内一些老和“无用”的部分，还在我们身上留存全是因为我们远祖演化的“事故”）。人们可以想象，从这些优点看来，这类物体可以获得超越人类的成功，（依我等意见）算法电脑注定只能屈于卑微的地位。但是，还有更多关于意识的问题。我们的意识也许某方面的确有赖我们的遗传和几十亿年下来的实际演化。我的想法是，演化明显的具有“探求”未来的目的，所以它仍有神秘之处，事情至少看起来组织得比仅仅基于瞎碰机会的演化和自然选择要更好。也有可能这种表像完全是骗人的。物理定律作用的方式似乎有种因素使得自然选择的过程比单凭任意定律的过程更有效得多。其导致的“智慧探求”是一个有趣的问题，我将很快回到这问题上来。数学洞察的非算法性质数学洞察的非算法性质让我们回忆第四章用来建立哥德尔定理以及它与可计算性之间的关系的论证。这论证指出，不管数学家用什么（足够广泛的）算法去建立数学真理，或是类似真理的东西1，不管他采用什么形式系统去提供真理的判据，总有一些数学命题，譬如该系统显明的哥德尔命题Pk（K）（参考124页），这些算法不能提出答案。如果该数学家的头脑作用完全是算法的，那么实际用以形成他判断的算法（或形式系统）不能用以应付从他个人算法建立起来的Pk（K）命题。尽管如此，我们（在原则上）能看到Pk（K）实际上是真的！既然他应该也能看得到这一点，这看米为他提供了一个矛盾。这个也许表明，该数学家根本不用任何算法。这本质上就是鲁卡斯（1961）提出的论断，头脑的作用不能完全是算法的。但是时时有人提出许多相反的论点（例如，别纳切拉夫1967，古德1969，鲁易上1969、1989，霍弗斯塔德1981，玻维1982）。我应该指出，在这里讨论的术语“算法”和“算法的”是指一台普通电脑所能模拟的任何东西。这当然包括“并行运行”、还有“神经网络”（或是“连接机器”）、“启发”、“学习”（这里学习机器总是指预设好应该如何学习的固定步骤）以及和环境的相互作用（这可用图灵机的输入磁带模拟）。这些反论中最认真的一个是，为了实际使我们相信Pk（K）的真理性，我们应该必须知道该数学家的算法到底是什么，而且必须说服我们，它对取得数学真理的方法有效。如果该数学家在脑中使用一种非常复杂的算法，那么我们就没有机会实际知道这种算法，也就不能实际建立哥德尔命题，更不用说相信它的有效性了。这类反论经常被提出来对抗像我现在要提出的主张，即哥德尔定理指出的，人类的数学判断是非算法的。但是，我自己认为这种反对不能令人信服。此刻我们暂且假定，人类数学家形成其意识判断数学真理的方法的确是算法的。我们将使用哥德尔定理推导出一种荒谬的结果（反证法！）我们必须首先考虑下列可能性，即不同的数学家使用不等效的算法来决定真理。然而，数学命题的真理性实际上可用抽象的论证决定，这是数学（也许是唯一的学科）最令人印象深刻的特征！假定一个数学论证不含错误，当它完全被理解时，若能使一位数学家信服，就同样能使另一位信服。这也适用于哥德尔型的命题。如果第一位数学家准备接受一个特定形式系统中所有的公理和步骤法则只能给出真的命题，那么他式系统中所有的公理和步骤法则只能给出真的命题，那么他？也应该准备接受这系统的哥德尔命题是描述一道真的命题。这对第二位数学家也完全相同。关键在于，建立数学真理的论证是可传递的2。因此，我们不是在谈论盘旋于不同的数学家头脑中各种难解的算法。我们是在谈论一个普适的形式系统，它等效于所有不同数学家用来判断真理的算法。永远不可能知道，这个假想的“普适”系统或算法是不是数学家用来决定真理的那一种！因为如果能知道，那我们就能建立起它的哥德尔命题，并且知道那也是数学真理。这样，我们被迫得出结论，数学家实际上用以决定数学真理的算法是如此复杂难解，使得我们永远不知道其有效性。但这违反数学的宗旨！我们数学传统和训练的主旨是不向我们无望理解的法则权威低头。至少在原则上我们必须了解，一个论证的每一步都能分解成简单明白的步骤。数学真理不是可怕复杂而且其正确性超出我们理解能力的教条。它是从如此简单明白的要素建立起来的，而且当我们理解这些要素时，它们的真理性一目了然，并且所有人都会同意。按照我的想法，在缺乏一个真正的数学证明时，这是我们能期望得到最明白的反证法！其含义应该非常清楚。数学真理不是我们仅仅用算法决定的东西。我相信意识是我们赖以理解数学真理的关键因素。我们必须“看见”数学论证的真理性，它的有效性才能使人信服。这种“看见”正是意识的精髓。每当我们直接知觉到数学真理时，它就应该呈现。当我们使自己相信哥德尔定理有效时，我们不仅“看见”了它，而且在这么做之时，我们揭露了“看见”过程本身非算法的性质。①至少对于现代电脑技术而言（参见第一章关于图灵试验的讨论）。灵感、洞察和创造性灵感、洞察和创造性..我离开我从前居住的坎城，继续进行矿业学校主办的地质学术考察发现。这次旅行使我忘怀自己的数学研究。一到达康坦斯，我们要登上去别的什么地方的公共汽车。正在我的脚踏上阶梯的那一瞬间，和先前的思路毫不相关地，我忽然得到一个发现：我用来定义弗希函数的变换和非欧几何中的变换完全一样。我没有证实这个思想。我坐在汽车里继续原先开始的交谈，那时没有时间去证实，但是我觉得十分确定。在我回坎城的归程中，我利用空闲之便把它证实了。这个例子（以及其他许多哈达玛引用的例子）的惊人之处在于，彭加莱在一闪念之间得到了这个复杂而高深的思想，那时他的意识思维正专注于完全不同的地方，而且在获得这一思想时还肯定感觉它是正确的，正如后来计算所证明的。应该明白指出，这个思想并不容易用言词解释清楚。如果为了使专家明白这思想，我想他需要做大约一个钟头的学术报告。很明显，就是因为彭加莱先前已经有许多钟头蓄意的意识活动，使他完全熟悉手中问题许多不同的角度，这个思想才能完全成形地进入他的意识。然而，在某种意义上来讲，当彭加莱登上车之时所得到的，是在一瞬间内能被完全理解的“单个”思想。彭加莱确信其思想的真理性更令人惊奇，因此他后来仔细的验证几乎是画蛇添足。也许我应该试用我自己相仿的经验来做比较。事实上，我想不起来我得到过像彭加莱那样完全从天外而来的妙思异想。（或像其它许多被引用的真正灵感的例子），我自己是必须有意识地思考手中的问题，也许思考得很含糊，但也许脑中正处于低水平的意识。也可能我正进行其他精神相当放松的活动；例如刮胡子即是一个好例子。也许我刚好开始思考搁置了一段时间的问题。认真进行许多小时从容而清醒的活动肯定是必要的，而且有时我要花一段时间才能重新熟悉一个问题。但是，我也有过经验在“瞬间”得到思想，同时强烈感觉到它是正确的。也许值得提到一个与此相关的特别奇怪的有趣的例子。1964年秋天，我正为黑洞奇性问题感到烦忧。奥本海默和斯尼德在1939年指出，大质量恒星完全球形的坍缩会导致一个处于中心的空间——时间奇点。广义相对论的经典理论在该处失效（见第七章386、390页）。许多人觉得，如果他们取消完全球对称（不合情理的）的假设，则这种不愉快的结论就可避免。在球形的情况下，所有坍缩的物质都指向一个中心点，或因为这种对称，所以发生了具有无穷大密度的奇点是可以预料得到的。假设没有这样的对称似乎更合理些，物质以更混乱的方式到达中心区域，不会产生无穷大的密度。或许物质甚至会重新旋转出来，产生与奥本海默和斯尼德理想化黑洞完全不同的行为3。由于新近（二十世纪六十年代初）发现了类星体，人们重新对黑洞问题感兴趣，也因而激发了我的思想。这些遥远天体的物理性质使有些人猜