皇帝新脑-56

动！而部分程序 （图灵机的一段磁带或某种和图灵机磁带近似的东西）对于一个掠捕者没有多大的选择优势。拥有整盘磁带或至少拥有整个自足的部分磁带是不太可能的。所以另一种可能性是，以下的观念或许具有一些真理，也就是从掠捕者—猎物这思路可以推论出某些意识的因素，而不仅是一个电脑方程式。但是，这里并没有抓住意识行为和 “程序”行为之间实际的差别是什么的要点。图10.1对着镜子的录像机在自身中形成自身的模型。这使它具备自我知觉吗？上面提到的观念和人们经常听到的意识观点相关，也就是一个系统如果本身具有某种东西的模型时才会 “知觉”到该东西，而当它本身具有它自己的模型时才能 “自我知觉”。但是，在一段电脑程序中包含另一段电脑程序的描述 （譬如一段子程序）并没赋予第一段程序对第二段的知觉。电脑程序的自我参照也不会导致自我知觉。尽管经常听到这种断言，我的看法是，这类讨论尚未能触及知觉和自我知觉的真正问题。一台录像机对之所录下的风景没有知觉；对着镜子的录像机也不具备自我知觉 （周10.l）。我想沿着不同的思路进展。我们已经看到，我们头脑中进行的活动不是全部伴随着意识知觉的 （尤其小脑的活动似乎是没有意识的）。我们意识思维能做而无意识状态所不能做的事情是什么呢？这问题由于以下事实而变得更加无从捉摸，任何原先需要意识的事显然都可学得会并能无意识地 （也许由小脑）执行。可以这么讲，当我们必须形成新的判断以及当----------------------- Page 360-----------------------预先还没形成习惯时，意识是必需的。想很精确地区别何种精神活动需要意识不是很困难的。也许，正如强人工智能的支持者 （以及其他人）所坚持的，我们在 “形成新判断”时是在应用某些定义得很好的、却难以了解的 “高层次的”算法规则，而我们还未能知道其运作的方式。然而，我想认为有些术语，用来区别有意识和无意识精神活动的，至少可作区分非算法和算法的参考：需要意识的 不需要意识的“常识” “自动的”“真理的判断” “盲目地跟随规则”“理解” “编程序的”“艺术鉴定” “算法的”。这些区别也许不那么一清二楚，尤其是因为许多无意识的因素进入我们意识的判断之内：经验、直觉、偏见甚至我们逻辑的正常运用。但是我要宣称，判断本身是意识行为的呈现。所以我提出，头脑的无意识行为是按照算法过程进展，而意识的行为则完全不同，它以一种不能被任何算法所描述的方式进展。颇具讽刺意味的是，我在这里提出的观点和我经常听到的其他观点几乎刚好相反。人们经常说，有意识的头脑以一种 “理性的”、人们可以理解的方式行为，而无意识是神秘的。从事人工智能的人们经常宣称，只要能理解意识思维的某些方法，人们就能知道如何让电脑照做，而人们对神秘的无意识过程尚没有解决之道。按照我自己的推理，无意识过程很可能是算法的，但是该算法是极其复杂的，要仔细解开它极为困难。完全有意识的可以合理解释为完全合逻辑的思维，也可以 （经常）用算法来表达，但是在完全不同的水平上。我们现在不去思考内部的功能（如神经元激发等等）而是整个思想的运作。这种思想运作有时具有算法的特性 （正如早期的逻辑：由亚里斯多德所表达的古代希腊演绎法或者是数学家乔治·布尔的符号逻辑；参阅伽特纳 1958），有时它不具有这类特征 （正如哥德尔定理以及在第四章所举的例子）。我现在宣称的判断的形成是意识的标志，人工智能专家不知如何用电脑为它编出程序来。人们有时反对，说这些判断的判据毕竟不是有意识的，为什么我要认为这类判断起因于意识呢？但是，这样问就错过了我想要表达的思想要点。我不是要我们有意识地理解我们如何形成意识印象和判断，这会导致我刚提到那种水平上的混淆。构成我们意识印象的原因是意识无法直接触及的。这些必须用比我们现知的实际思想更深的物理水平来考虑。 （我要在下面提出设想！）意识印象本身就是 （非算法的）判断。我们的意识思维应该有非算法的性质，这是我们前面章节的基本主题。尤其是从第四章有关哥德尔定理的论证得出的结论指出，意识的沉思至少在数学方面有时能够使人用算法不能做到的方式去确定某个陈述的真----------------------- Page 361-----------------------理性。 （我就要仔细地阐释这个论证。）算法本身的确从未确定真理！要使算法只产生谬误和只产生真理一样容易。为了确定一个算法有效与否，人们需要有外在的洞察 （后面还要讲到）。我的论断是，在适当的环境下从错误中判断出真理的能力 （或从丑恶中得到美丽），正是意识的标志。然而，我要讲清楚，我不是指用魔术式的 “猜测”。意识对于猜乐透号码 （公平进行的）毫无用处！我是指在人们处于意识状态下连续进行的判断。把所有相关的事实、感觉印象、记住的经验都集中在一起，把事物相互衡量，甚至有时形成灵感的判断。原则上，只要得到足够的信息即能作有关的判断，但是由混乱的数据中抽取需要的并形成适当的判断，也许没有清楚的算法的步骤存在，或者虽然存在，但不切实际。也许我们会有这种情形，一旦做出判断，去检查该判断是否准确比当初形成该判断更像算法的过程 （或许只是一种更容易的过程）。我猜想在这种情况下，意识本身会成为召来适当判断的方法。为什么我说判断的非算法形成是意识的标志呢？有部分原因来自于我自己作为数学家的经验。当我的知觉未能充分注意无意识的算法行为时，我就是不信任它们。在进行某些计算时，把算法当作算法通常是没错，但是对研究中的问题这算法是正确的选择吗？一个简单的例子是，人们学会把两个数乘在一起以及把一个数除以另一个数的算术规则 （或人们宁愿借助于算法袖珍计算机），但是人们面对这类问题时何以得知应该乘或除这些数呢？为此，人们需要思考并做出意识判断。 （我们很快就会看到，为什么这样的判断至少有时候必须是非算法的！）当然，一旦人们做过大量类似问题，这些数该乘还是该除会变成第二天性，而且可以算法地执行——也许由小脑。在那个阶段不再需要知觉，而且足以放心让他的意识精神去琢磨或沉思其他事情——不过人们必须不时检查该算法是否被导入 （即使很细微的）歧途。相同的情形在所有水平的数学思维过程中不断发生。当人们在进行数学过程时通常竭力寻找算法，但是这种努力的过程本身并不是一种算法过程。在某种意义上，一旦找到一个合适的算法，该问题就解决了。此外，用数学来判断某些算法是否精密或合适，需要很多的意识的关注。第四章内描述数学形式系统的讨论也提过类似的情形。人们可从一些公理开始推论出各式各样的数学命题。后者的步骤可以完全是算法的；但是需要一位有意识的数学家去判断这些公理是否合适。在往后第二节讨论中可清楚得知，这些判断必须不是算法的。但在此之前，让我们考虑一种更盛行的有关我们头脑功能及其起因的观点。----------------------- Page 362-----------------------算法的自然选择？如果我们假设人类头脑的行为，不管是意识的还是无意识的，只是在执行一种非常复杂的算法，那么我们应该询问这种非常有效的算法从何而来。标准答案当然是 “自然选择”。具有头脑的生物在演化时，那些算法比较有效的会有更好的生存倾向，并因此在总体上有更多的后代。由于这些后代从其父母遗传到比较好的算法，因此也比其堂表亲戚带有更有效的算法，所以算法就这样被逐渐改进。由于生物在演化时可能有很多断断续续的现象，所以这种改进不必是稳定的。生物演化可以到达了不起的阶段，就像我们可以 （显然地）从人类头脑看到的（比较道金斯1986）。甚至根据我自己的观点，由于我想象头脑许多行为的确是算法的，正如读者从上述讨论中所推论出来的，这个图像必须包含某些真理。而且我强烈相信自然选择的威力。但是我看不出自然选择本身如何能演化算法，这种算法能有意识地判断我们似乎拥有的其他算法是否有效。想象一道平常的电脑程序。它怎么会变成活的呢？显然不能（直接地）由自然选择而来！要有电脑程序人员构思写出这程序并确认它会执行所预定的步骤。 （实际上，大多数复杂的电脑程序都含有错误，通常很小，但常常微妙得除了在非常的情形下不会被发现。这种错误的存在不会严重改变我的论证。）有时一个电脑程序本身可由另一个程序 （譬如由“主导”电脑程序） “写出”，但是那个主导程序本身是人类才智和洞察的产物；或者该程序只是从许多其他电脑程序的产物拼凑而成。但是在所有的情形下，程序的有效性和概念本身最终要归功于 （至少）一个人类的意识。当然，人们可以想象情况也许不必如此，只要有足够的时间，电脑程序可能会自动由某种自然选择的过程演化得来。如果人们相信，电脑程序人员的意识行为本身就是算法，那么他实际上应该相信，算法已用这种方法演化至今。然而使我忧虑的是，一个算法有效性的决定本身不是一个算法过程，我们在第二章已经看过这情形。 （一台图灵机实际上会不会停这问题不是用算法能够决定的。）为了决定一个算法实际上行不行，人们需要的是洞察，而不是另一个算法。尽管如此，人们仍能想象某种自然选择过程可以有效产生近似有效的算法。然而，我个人很难相信这种可能。任何这类选择过程只能作用于算①法的输出 ，而不直接作用于算法行为的基础思想上。这不仅极无效率，而且我相信这肯定行不通。首先，仅从考察其输出是很难确定一个算法究竟是什么。 （要构造两个完全不同的简单的图灵机行为非常容易，使两者的输出磁带到第265536位都是一样的，这个差异在整个宇宙的历史中永远① 称作 “盲视否认”的情况是另一种对盲视的补充。一个事实上全盲的、但坚持他完全能看东西的病人似乎具有推断周围环境的视觉意识！ （见撤屈兰德1984，143 页。）----------------------- Page 363-----------------------不会被觉察出来！）此外，一个算法最微小 “变化”（譬如一台图灵机在规格上或在它的输入带上轻微的改变）就会使之变成完全无用，很难看出随机的方式如何能产生算法实际的改善。 （如果不知道其“意思”的话，甚至故意的改善也是困难的。这一点尤其被如下时常发生的情形所证实。当一道没有说明清楚或者复杂的电脑程序要作一点改变或改正时，而原先的程序人员刚好离开或死去，人们与其试图解开在该程序中暗含的意义和企图，不如将其丢弃后重写可能还容易些！）也许可以设计更 “健全”的方法来详细说明算法，使它避免上述的批评。在某些方面，这正是我自己要说的。这种 “健全”的说明是算法的基础观念。但是观念，就我们所知，是需要意识精神来表明的东西。我们回到了意识究竟是什么的问题，什么是它能做而无意识的主体不能做的，自然选择究竟如何聪明，以至于得演化出那个最特异的品质。自然选择的产物确实惊人。有关人类和其他生物的头脑如何作用，我得到的一点认知使我充满了无以言喻的惊奇和赞美之情。单独神经元的作用是非同寻常的，在我们出生之时为了以后需要担负的任务，这些神经元本身以惊人的方式以极大数量的连结组织在一起。不仅是意识本身，而且必须用来支持意识的配件也都是那么令人印象深刻！如果我们能发现，究竟什么品质可以使一个实体成为有意识的，那么我们就可能为自己建造这样的物体。虽然它们可能不符合我们现在所谓的“机器”之辞意。因为这些物体是为了我们目前的任务，也就是为了获得意识而特别设计，所以可想而知，它们比我们更优越得多，它们不必从单独的细胞长大。它们也不必负担它们祖先的 “包袱”（头脑或身体内一些老和“无用”的部分，还在我们身上留存全是因为我们远祖演化的“事故”）。人们可以想象，从这些优点看来，这类物体可以获得超越人类的成功，（依我等意见）算法电脑注定只能屈于卑微的地位。但是，还有更多关于意识的问题。我们的意识也许某方面的确有赖我们的遗传和几十亿年下来的实际演化。我的想法是，演化明显的具有 “探求”未来的目的，所以它仍有神秘之处，事情至少看起来组织得比仅仅基于瞎碰机会的演化和自然选择要更好。也有可能这种表像完全是骗人的。物理定律作用的方式似乎有种因素使得自然选择的过程比单凭任意定律的过程更有效得多。其导致的 “智慧探求”是一个有趣的问题，我将很快回到这问题上来。----------------------- Page 364-----------------------数学洞察的非算法性质正如我早先陈述过的，令人相信意识能够非算法地影响真理判断的大半原因是通过考察哥德尔定理而来的。如果在形成数学的判断时能看到意识的作用是非算法的，此时计算和严格证明构成非常重要的部分，则我们肯定会信服，在更一般 （非数学）的情形下，这样非算法的因素对于意识也是关键的。让我们回忆第四章用来建立哥德尔定理以及它与可计算性之间的关系的论证。这论证指出，不管数学家用什么 （足够广泛的）算法去建立数学1真理，或是类似真理的东西 ，不管他采用什么形式系统去提供真理的判据，总有一些数学命题，譬如该系统显明的哥德尔命题 P （K）（参考124k页），这些算法不能提出答案。如果该数学家的头脑作用完全是算法的，那么实际用以形成他判断的算法 （或形式系统）不能用以应付从他个人算法建立起来的 P （K）命题。尽管如此，我们 （在原则上）能看到P （K）k k实际上是真的！既然他应该也能看得到这一点，这看米为他提供了一个矛盾。这个也许表明，该数学家根本不用任何算法。这本质上就是鲁卡斯 （1961）提出的论断，头脑的作用不能完全是算法的。但是时时有人提出许多相反的论点 （例如，别纳切拉夫1967，古德1969，鲁易上1969、1989，霍弗斯塔德1981，玻维1982）。我应该指出，在这里讨论的术语 “算法”和“算法的”是指一台普通电脑所能模拟的任何东西。这当然包括“并行运行”、还有“神经网络”（或是“连接机器”）、“启发”、“学习”（这里学习机器总是指预设好应该如何学习的固定步骤）以及和环境的相互作用 （这可用图灵机的输入磁带模拟）。这些反论中最认真的一个是，为了实际使我们相信 P （K）的真理性，我们应该必k须知道该数学家的算法到底是什么，而且必须说服我们，它对取得数学真理的方法有效。如果该数学家在脑中使用一种非常复杂的算法，那么我们就没有机会实际知道这种算法，也就不能实际建立哥德尔命题，更不用说相信它的有效性了。这类反论经常被提出来对抗像我现在要提出的主张，即哥德尔定理指出的，人类的数学判断是非算法的。但是，我自己认为这种反对不能令人信服。此刻我们暂且假定，人类数学家形成其意识判断数学真理的方法的确是算法的。我们将使用哥德尔定理推导出一种荒谬的结果 （反证法！）我们必须首先考虑下列可能性，即不同的数学家使用不等效的算法来决定真理。然而，数学命题的真理性实际上可用抽象的论证决定，这是数