科学主义的视野与人工智能的调查

对意识的忽视与我们之前考虑过的一些重要的事物，即神话、梦、寓言有关，它们歪曲了我们对当代科学的看法。我们对当前的科学研究（实际上我们所知甚少）越来越敬畏，不仅仅是因为它的真正价值，也源于这样一种印象，即这种学习研究是一种宏大的、客观的、不受个人影响的安全的方式，最终也是永恒的真理。尽管我们知道，在过去，有时会发现科学的正统观念也有可能是错误的——例如相骨学，或将放血作为一种医疗手段等。但这些都不影响我们对其现在继承者——科学的尊重，反而加深了我们对现代医学的崇敬——我们认为它纠正了所有这些错误。

就我一直以来的想法而言，现代物理科学承载了一定成分的强烈有效的象征主义。所谓“科学”已经在我们的文化中成功占据了权威地位，这种地位过去是由宗教信条所享有的。人们使用“唯物主义者”这个词，就像其中某些人曾使用“基督徒”这个词作为“理智、正常、理性”的同义词。科学现在是强制性学说的中心内容，不管你理解与否，都必须相信它。它被视为预言家。这样的地位干扰了我们对科学本身细节的思考。科学主义现在要求我们将科学视为我们所有知识的形而上学来源，而不是将其视为真实但有限的物质知识的来源。物理和化学不再在群星中作为双星出现，而是作为超级太阳的一部分，作为知识的最终形式，所有其他形式的思想都只是临时的草图。

一个有趣的观点是，迷信的对象发生了转变。正如我所提到的，科学主义的正统性是以消除宗教、摧毁迷信为荣，因为宗教在当前的理性氛围中是无法生存的。有趣的是，科学主义本身成为了新的迷信，这一变化是如何迅速地随科学的崛起而发展的？让我们来看两个例子。

一个例子是克劳斯教授（Lawrence Maxwell Krauss）^[1]声称科学为现实提供了终极的基础，即终极的形而上学。这一说法是否迷信？当然，它并不指任何宗教，但正如字典所阐明的那样，迷信不一定是指宗教，它还可以指一般的无根据的信仰。《牛津英语词典》很恰当地解释了这一点，引用了来自物理学家詹姆斯·赫顿的评论：“我害怕有许多相信科学的人在没有看到证据的情况下，带着偏见和迷信去相信冷热理论。”

这大概就是克劳斯所设想的，他最喜欢的“形而上学”——物理主义——是由科学提供的。而事实上，正如我们所看到的，它是由长期在欧洲二元主义厨房里酝酿的概念学说发展而来的，并由维也纳学派的哲学家赋予了其最终的形式。

我的另一个例子，我个人认为是更为明显的纯粹迷信。那就是对奇点本身的信仰，即预期在人工智能最终超越人类智慧并接管世界的那一刻发生的假定的转变。相信奇点论的人们认为这不应该仅仅是一个神话故事，而是一个事实的预测，他们确信亚瑟王终有一天会回来，否则世界将在明年四月结束。当然，没有比这些预言更可靠的证据了。

奇点论是在诚实的基础上开始发展的，它本身作为科幻小说的一个主题，是一种受人尊敬的小说类型，从威尔斯（Herbert George Wells）^[2]时代起，奇点的设想就被清楚地理解为一种富有想象力的艺术。对于它投射在现实世界中的间接影响来说，奇点论这个题材是很有价值的。但它绝对不是真正历史领域的竞争对手。我注意到这个人工智能的话题已有一段时间了，这一话题似乎正在越过无害动物园的边界。我想看看发生了什么，就拿起了一本书，叫做《思机器所想》^[3]，这本书收集了200篇关于人工智能的短文，这些短文由很多高水准的人所撰写，包括一些杰出的科学家，所以，尽管我认为书名很容易诱导人，但我还是开始翻阅它。

我期盼能从这些东西中找到关于对人工智能的调查，即对那些如今已经被慷慨地赋予各种想象的文学的调查，包括神话和童话。我期待着对人工智能讨论的意义、来源、动机、功能、公众、吸引力进行调查。它可能包含的真理要素、正在被利用的用途，以及它可能造成的损害。我期待所有这些，因为我认为这些调查会非常有用。但我简直错得离谱。与我所期盼的大相径庭，许多专家显然把这个故事的提纲视为事实，只关注细节，尽管有一些怀疑的声音，但大多数人却全盘接受，整个项目中我只发现了一篇真正的抗议，就是丹尼尔·丹尼特（Daniel Dennett）^[4]的锐利之作——《奇点论，一个都市传说？》。与其他作品相比，这篇作品严肃地接受了质疑人工智能的挑战。

丹尼特问，这些关于人工智能的问题真的很重要吗？由于这些机器将来可能会带来危险，所以我们应该认真地重视它们吗？他回答说：不！

我认为，恰恰相反，这些警报分散了我们对一个更紧迫的问题的注意力，一个迫在眉睫的灾难，不需要摩尔定律的任何帮助，也不需要理论上的进一步突破来达到更接近的临界点。经过几个世纪来之不易的对自然的理解，人类现在终于在历史上第一次能够控制我们命运的许多方面，即放弃对人工智能的控制，这种人工智能无法思考，过早地将文明置于自动驾驶仪之上。这个过程是阴险的，因为它对每一步都有良好的感测，会提供你无法拒绝的提议……对门外汉来说，人工智能意味着通过图灵测试，像人类一样……但是公众会继续想象，任何能做到这一点的黑匣子（不管最新的人工智能成就如何）都必须是一个像人类一样的智能体，而实际上，黒匣子里的东西是一种奇怪的被截断的二维结构，通过其所有的，如分散注意力、忧虑、情感承诺、记忆、忠诚等维持人类思想的消耗方式来获取能量。它根本不是一个类人机器人，而是一个无脑的奴隶，正如一个自动驾驶仪的最新进展。

简言之，这场争论比浪费时间更糟糕。这是一种破坏性的自我欺骗。现在人类真正需要的是敏锐的注意力——人类的头脑坚决将他们痛苦的努力引向一系列最困难的问题，以此来渗透和转移一种危险的当代妄想。

所有这些新的、昂贵的电子产品的细节猜测，好像它们可以从人类的手中接管重塑文明的工作一样，这一切只是在分散人的注意力而已。

值得注意的是，丹尼特的抗议似乎是《思机器所想》这本书中唯一一个尝试关注我们星球的真正未来前景的作品，当然，除了他们痴迷的人工智能的发展之外。他们毫不关心可能会决定地球未来的因素——气候、地质、经济、社会政治或其他。这些因素进行得完全顺利，才能使他们的事业成为可能。然而，唯一让他们感到困扰、需要谨慎考虑的，却是非常遥远的事情，即时间、空间殖民的必要性，仅仅为了避免陷入太阳和宇宙其他地方遥远的未来活动。

我认为阐明这种普遍观点的最好方法，是引用一位杰出的贡献者的观点，而他除了极其优秀之外和别人没什么不同：

生物智能（Organic Intelligence）没有长远的未来马丁·里斯（Martin Rees）^[5]

……人们只关注旅行的速度，却不重视旅途的方向。几乎没有人想过机器会拥有更多超越人类的独特能力，或通过电子人技术来增强这些能力。从长期进化的角度来看，人类和他们所认为的一切，只是暂时和原始的，更深思考的前兆是机器主导的文明延伸到未来，传播到我们的地球之外……不难想象一个超级计算机拥有神谕般的能力，能够掌握其在国际金融和战略中的控制权，这似乎只是一个定量步骤（非定性），超越了如今“定量”对冲基金的运作。但是一旦机器人像我们一样熟练地观察和解释他们的环境，他们将真正被人类视为可以与之联系的智能生物——至少在某些方面，就像我们与他人相联系一样……但是，如果一个超级计算机发展出它自己的思维意识呢？如果它能渗透到互联网上，它就能操纵世界其他任何领域。它可能产生与人类愿望完全不同的目标——或者甚至可能把人类当作累赘。或者（更乐观地说）人类可以通过与计算机融合超越生物学的极限，也许会将他们的人类特征融入到一个共同的意识中……

那么，后人类时代又如何呢？它将领先延伸数十亿年吗？……量子计算机的进一步发展潜力可能与单细胞生物向人类进化一样巨大。因此，根据任何思维的定义，人类类型的大脑（及其强度）所做的工作将被人工智能的大脑所淹没……行星际空间和星际空间将成为最广阔的生产空间，机器人制造者将在这里制造出远超出我们想象视野的非生物大脑，就像弦理论之于老鼠一样令人费解……

因此，最能完全理解世界的不是人类的思想，而是机器的思想。自主机器的行为将极大地改变世界，也许还将改变世界之外的一切。(www.xing528.com)

这段摘录足以表明我说过的新迷信正在臆想产生进而取代旧的宗教迷信。在这里，没有任何经验证据，也没有任何道德背景，一个纯粹的可计算的天堂已经被随意地创造出来—— 一个拥有自己“公民”的“新神”的天堂，这些“新神”显然是可以被信任的，尽管我们对它们的思想和愿望一无所知。也就是说，它们要在整个宇宙中进行我们（或我们中的一些人）如今非常羡慕的一种智能活动，并使这些活动取得巨大成功。事实上，可以相信它们将和人类一样，只不过比人类更聪明，更成功。

这一切也许只是一种无害的吹嘘，而不是严肃的科学。但如果真是如此，人们更需要清楚地知晓一切可能面临的问题。理查德·道金斯（Richard Dawkins）^[6]在《自私基因》的序言中暗示，他的读者应该简单地把这本书当作一个令人兴奋的神秘故事来欣赏，因为他已经模糊了这一预言的重要的界限。他试图吞掉“小说蛋糕”，并让它产生额外的情节，而不承认这本书确实包含了大量的幻想。也许事实上并不是所有的预言都是真实的，但是，如果没有这个解释，我们现在考虑的预言自然会被视为寓言或传说，而非科学。

人工智能的预言之所以会被这样对待，不仅因为它们缺乏证据支持，而且因为其支持者自己都明显不相信自己传达的信息。如果相信的话，他们现在肯定不会写书，而是忙于疯狂的活动，试图为威胁到他们的、令人担忧的未来的变化做好适当的准备。毕竟，这场剧烈的革命不仅仅是在解析遥远的将来会发生的事情，而是被预计很快就会发生；的确，奇点论的当代领军者雷·库兹韦尔已经将2045年定为一个合理的日期。这个日期大概就是机器在人类事务中已经超越了其目前的咨询作用，可以开始接管（如马丁·里斯所说）“掌控国际金融战略”的日子了。而且，由于这种“统治”肯定包括开办大学和类似的知识机构，而这些机构是人工智能专家自己主要工作的地方，因此，他们应该希望自己的就业状况很快会发生显著的变化。

里斯确实试图通过说明这种机器会给它的控制者带来政治上的优势来糖衣化这个预言，但，是什么让他作此幻想的呢？谁是控制者？他解释说，这些机器人将是智能的人，人类的社会对它们来说是平等的，人类可以像对待其他人那样与它们相互联系。这意味着人类可以不同意它们的意见，并且可以期望这些分歧得到解决，就像人类同事之间的分歧一样，通过争论或通过人格的力量来解决。里斯问，如果其中一个机器人“发展出了自己的思维”将会发生什么？这似乎是一个不太可能的假设。但是，既然它们应该比人类更聪明，并且一直在变得更加聪明，那么，这似乎也没有什么不可能，在争论中机器人总会获胜也是同理。

简言之，里斯所描绘的超智能、无头脑、超温顺的仆人的形象是不合理的。这就像有钱的登山者会犯的错误一样，他们雄心勃勃地“征服”珠穆朗玛峰，他们以为会得到那些常年攀爬珠峰的夏尔巴人（那些未被新闻报道过的、只把帮助攀爬珠峰作为他们工作一部分的人）的帮助。他们以为夏尔巴人没有自己的思想，总是接受他们的命令。

因此，这是调查者必须指出的许多问题中的一个。遗憾的是，这整个故事不仅是科幻小说，而且是糟糕的科幻小说。一个好的科幻作家（如艾萨克·阿西莫夫，他非常关注这些问题）一定会事先看到这些冲突的逻辑，他会在情节中看到这些冲突并且能在完成叙述之前把它们整理出来。然而，要做到这一点，他必须对所讲的整个故事的结构作出巨大的改变。既不可能使这些新机器变得越来越聪明，也不可能保持人类作为地球主人和进化顶峰的惯常的安全地位。

里斯确实提到了解决这一问题的办法，这是一个值得称赞的雄心勃勃的办法。但不幸的是，这一办法非常难以理解。它是“人类通过与计算机融合超越生物学，将他们的人类特性融入到一种‘共有意识’中去。”要理解这一点，你必须要先想象得出来，要对它的实际工作原理有一个合乎逻辑的描述。这个合并的生物（打个比方）会说话吗？或者它有键盘吗？在合并的过程中，半计算机化的人类会是什么样子？

很明显，我们应该能够吞下这个想法（再一次）并接受它，通过这样改变我们自己；我们应该能够获得智能机器人的计算能力（智慧），而不必付出改变我们自身本性的代价。这一转变不仅是为了解决我们目前的问题，而且是为了使我们（或我们的继任者）能够在未来取得更大的智力成就。

然而，为什么会有人期望通过这些附加的计算能力产生影响呢？现在人类生活的困扰，主要不是源于缺乏智能，而是源于普通人类的贪婪、偏见、愚蠢、卑鄙、无知、脾气暴躁、缺乏常识、缺乏兴趣、缺乏公众情感、缺乏团队合作、缺乏经历、缺乏良心，也许最重要的是思想的普遍缺乏。在我们寻找这种想象中的额外智慧的过程中，我们（如丹尼特指出的）希望雇用无头脑的奴隶，这些奴隶只会做我们告诉他们的事，从不提任何与他们任务无关的话题；这意味着，正如巴特勒所指出的（见第十九章），在培养他们的过程中，我们通过关注这些工具的工作，而不是直接使用我们人类自己的力量，来解决威胁我们人类的问题，继而扭曲了自己的本性。诸如人类长期以来形成的思想狭隘的问题，以及至少与之相当的气候变暖的问题。

【注释】

[1]劳伦斯·克劳斯教授是美国-加拿大理论物理学家和宇宙学家。是亚利桑那州立大学地球与太空探索学院的教授，也是耶鲁大学的前任教授。

[2]赫伯特·乔治·威尔斯（1866-1946），英国著名科幻小说家，他创作的科幻小说对该领域影响深远，如“时间旅行”“外星入侵”“反乌托邦”等都是20世纪科幻小说中的主流话题。

[3]《思机器所想》（What to Think about Machines That Think），作者：约翰·布罗克曼。

[4]丹尼尔·丹尼特是美国哲学家、作家、认知科学家。

[5]马丁·里斯，英国皇家学会前主席、剑桥大学宇宙与天体物理学名誉教授、三一学院研究员。

[6]理查德·道金斯，英国著名演化生物学家、动物行为家和科普作家，当今世界最著名、最直言不讳的无神论者和演化论拥护者之一。