《审判机器人：定义人工智能与机械人的无尽探索》

自人工智能诞生之时起，研究者们一直试图研发出能真正“思考”的计算机。这是人工智能研究的“圣杯”。[21]但是，在研发思考机器之前，必须首先定义什么是思考。事实证明，对研究人员而言，如何定义思考才能既适于人类又适于机器，是一项非常复杂的任务。研发具有独立思考能力的机器，对人类来说是一项非常重要的事件，人类一直声称其已垄断“独立思考”的高级思维技能。发明一个真正思考的机器等于地球上出现一个新物种——机械人（machina sapien）。

但是，问题是，人类的科学想要发明新物种吗？自远古时期起，人类一直试图通过《圣经》中提到的首个预防步骤来扮演上帝。[22]现代科学研究某些特征含有类似的幻想元素，包括克隆人、生物医学工程、追求抗衰老，等等。探索发明新物种符合该趋势。尽管发明新物种可能造福人类，但是这并不一定是人工智能研究背后的动机。原因可能更加深刻，触及人类探索的最深处。根据《圣经》，人类因其原罪而被禁止进行这些探索。

发明机械人的第一步是定义人工智能。先贤们曾经提出过多种定义。贝尔曼（Bellman）将人工智能定义为“与人类思考相关联的自动活动，如作出决定、解决问题和学习……”。[23]豪格兰（Hauge land）认为人工智能是“让机器思考的一项非常激动人心的全新尝试……即完全字面意义上的具有思想的机器”。[24]查尼亚克（Charniak）和麦克德莫特（McDermott）认为人工智能是“通过使用计算模型实现心理官能的研究”。[25]

沙尔科夫（Schalkoff）认为人工智能“是一门寻求通过计算过程来理解和模仿智能行为的研究学科”。[26]库兹威尔（Kurzweil）将其定义为“一种可以实现机能的机器发明艺术，这些机能要求人类智力方可完成”。[27]温士顿（Winston）认为人工智能是“一种对计算方法的研究，这种算法让理解、理性和行为成为可能”。[28]卢格尔（Luger）和斯塔布菲尔德（Stubblefield）将人工智能定义为“和自动智能行为相关的计算机科学的一个分支”。[29]里奇（Rich）和奈特（Knight）认为人工智能是“一项关于如何使计算机完成目前人类更加擅长事项的研究”。[30]

乍看起来，这些定义令人更加疑惑，而非澄清疑虑。可是，根据上述及其他定义，可以将人工智能系统大致分为四类：（1）像人类一样行为；（2）像人类一样思考；（3）理性思考；以及（4）理性行为。[31]

1950年，经过英国数学家提出的图灵测试（Turing test）验证可以像人类一样行动的人工智能系统，这为智能提供了一个操作性定义。[32]图灵将智能行为定义为能够在所有认知任务上实现人类水平机能的能力，从而使人类询问者无法区分人类行为和机器行为。图灵测试还涉及人类“倾听”人类通过文字与机器之间进行的对话。若人类交谈者不能分辨出人类行为和机器行为之间的差异，则该机器被视为通过图灵测试。[33]图灵测试预设，所有人类的认知能力完全相同，尽管一台机器和一名儿童、一名智力残障人士、一名极度疲惫之人以及机器设计员之间的对话可能明显不同。[34]

为了确认人工智能系统是否能够像人类一样思考，首先必须对人类的思考作出定义。人工智能技术作为普通问题解决方案进行研发，是为了使其能够根据相同的信息作出与人类相似的决定。[35]现代认知科学的发展为机械思考（mechanical thinking）和机器思考测试提供了实验路径。图灵提出的另一个测试中，实验人员的目标是在对话中分辨出男性和女性。该测试对人类参与者交流技能的依赖程度，与对机器的交流技能的依赖程度一样高。[36]

原始图灵测试的有效性已经受到质疑，尤其是针对强人工智能（此时，计算机具有与人类相似的大脑）。2014年，一台机器曾被认为已经通过图灵测试，但这受到了批判。[37]约翰·瑟尔（John Searle）在他著名的中文房间思维试验中，[38]描述了一个不懂中文的人独自呆在一个房间里，接收大量书面中文信息。这个试验对象拥有一本以其母语写成的规则手册，他可以通过汉字字形来查找汉字，然后使用这本规则手册来回复信息。图灵测试的实验人员在房间外面，确信房间里的人懂得中文。

在这个思维试验中，房间里的人只是简单地遵照手册的说明，但是无论是这个人还是这本手册都不懂中文，尽管两者都可以假装懂中文。在这种情况下，这本手册就是一个电脑程序。那么，人们懂得一门外语又是什么意思呢？如果不先对理性（rationality）作出定义，就很难辨认人工智能系统是否能够理性地思考。如果理性意味着“正确”（right）思考，那么可以用形式逻辑表示，因而一旦提供正确的信息，机器的目的就在于产生正确的结论组合。例如，如果知道所有西红柿都是红色的，而且，X是西红柿，那么，机器就能得出结论：X是红色的。绝大多数现代人工智能系统支持形式逻辑，并且知道该如何根据这些逻辑行事。

理性行为的人工智能系统是理性思考的人工智能系统的高级变体。后者作为局外人能够根据正确的信息得出正确的结论，而前者则能够参与到事件中，并根据正确的信息采取正确的行动。例如，足球比赛中，看到足球快速接近球门的人工智能守门员，不仅能够计算出足球接近的速度和角度，还可以确定阻挡足球所需的行动，并采取行动，阻止球进门。

然而，对机械人的探索并不止于上述分类和定义。如果探索成功，这将能回答是什么让人类具有智能的问题，并将促进智能机器的设计。从20世纪80年代末开始，一般认为，可以根据某属性来辨别智能思考，尤其是以下五点属性：（1）交流；（2）内部知识；（3）外部知识；（4）目标驱动的行为，以及（5）创造力。[39]下面逐一探讨这些属性。

交流（communication）被认为是定义智能实体最重要的属性，因为我们可以与智能实体交流。注意，我们不仅可以与人类交流，也能够和某些动物交流，尽管这种交流的范围与人类相比较为狭窄，而且并不是所有想法都能表达出来。例如，你可以让你的狗知道你有多生气，但是你并不能向它解释中文房间思维试验。与一名两岁儿童进行沟通的情况也大抵如此。交流对象的智能越强，与之进行的交流就越复杂。

交流假定能够正确理解其中的信息，并且能利用交流来测试对复杂想法的理解能力。但是交流并不能总是证明理解能力。一些高智商的天才并不善于交流，而一些自闭的天才甚至根本不会交流。与此同时，大多数正常人都具有出色的交流技能，尽管只有很少的人能够探讨复杂的事物，比如，爱因斯坦的相对论、量子力学、平行世界以及指数方程。

交流不仅可以通过语言来完成，还能通过其他途径，包括文字。因此，即使机器缺乏语言能力，它们仍然能够具有非常高的智能，类似于聋哑人。虽然交流属性对于智能而言非常重要，但是仍然会存在许多例外。图灵测试便是以该属性为基础的，但是，如果人类的交流并不是十分准确，我们怎么能相信可以通过交流来识别人工智能呢？

内部知识指的是实体对于自身的知识。这和自我意识相似。智能实体应该知道自身的存在，理解自身是以某种方式发挥功能的，知道自身是以何种方式融入现实之中的，等等。形式逻辑推理通过自我参照展示了人工的内部知识。[40]我们可以使计算机编程看起来“知道它们自己”，而且它们理解何为“知道它们自己”。但是，很多研究者认为这过于武断，而且坚称难以确定这些计算机是否真的“知道它们自己”。然而，迄今为止仍然没有提出测试内部知识的替代方案。问题是，怎么可能了解到其他人的内部知识呢？

外部知识指的是关于外部世界和事实真相的事实数据。在知识具有商品功能的年代，特别是和专家系统相联系时，外部知识属性就变得至关重要。[41]智能实体应该知道如何发现外部世界的数据，并了解自己所处的事实真相的事实构成。这一属性假定实体拥有记忆技能，以及将信息按照貌似相关的种类进行分类的技能。人类用这种方法积累生活经验并从中学习。如果每次对待所有事实要素都如对待新鲜事物，就很难成为智能实体。尽管每次事实事件都有新鲜之处，但这些事件中也包含共同特性，而智能实体应当能够识别出来。

例如，根据疾病症状进行疾病诊断的医学专家系统，能够判断出千变万化的病例中包含的共同特性。缺乏这种能力的实体与患有失忆症的人相似。虽然他们在给定的环境下表现得当，但是他们并没有将行为累积到经验中。这就是简单机器的操作方式：完成某项任务的同时不能意识到任务已经完成，无法吸收经验指导未来任务。所以，问题在于，如果可以将经验匮乏之人视为智能，为什么不能将具有相似行为的机器也视为智能？

目标—驱动行为标志着随意或任意行为和有意行为之间的差异。目标—驱动行为要求有可操作的计划来实现预期的目标。对大多数人来说，目标—驱动行为可以理解为目的（intention）。如果饥饿的人看到苹果，吃苹果就是目标—驱动行为，目标是缓解饥饿。目标—驱动行为并非人类独有。如果一只狗看到障碍物后面有一根美味多汁的骨头，它就会计划绕过障碍物去取得骨头。执行这项计划就是这只狗的目标—驱动行为。

不同生物可能会有不同类型且不同复杂程度的目标。实体越智能，目标就越复杂。在主人遇难时，狗的目标只限于寻求帮助，而人类的目标可能包括登上火星。计算机能够计划火星着陆，机器人和自动驾驶车辆也已经能探测火星并搜索数据。还原论（reductionist）的目标—驱动行为是将一个复杂的目标解构为多个简单目标的行为；实现简单目标可以看作是目标—驱动行为。目标及其实现计划或许可以编入计算机程序中。可并不是所有人随时随地都会追求复杂的目标。问题在于，机器需要达到什么复杂程度的目标才能视为智能的？(www.xing528.com)

创造力包括发现新的理解方式或行为方式。所有智能实体都被假定具有一定程度的创造力。如果一只苍蝇试图逃离一个窗户紧闭的房间，它会翻来覆去地撞击窗户玻璃，一成不变、徒劳无功地进行相同的尝试。这和创造力背道而驰。可是，某个时刻这只苍蝇确实找到了另一种出路，人们会认为这更具有创造性。狗可以在较少的尝试中找到出路；人类则可以在更少的尝试中找到出路。计算机可能被编程为不得多次重复相同行为，而是寻求其他方法解决问题。这种行为类型对于通用问题解决软件至关重要。

创造力并非同源同质，而会有程度和等级之分。并非所有人都被视为具有创造性，有很多人日复一日地以相同方式完成日常任务。很多彩票玩家会年复一年买从未中过奖的相同号码。是什么让他们的创造力和苍蝇的创造力产生不同？苍蝇撞破窗户的概率并不低于彩票玩家中大奖的概率。很多每天几小时完成相同操作的工厂工人仍是智能实体。问题在于，要达到什么程度的创造力才能称得上智能？

并不是所有人类都具有这五个属性。那么，为什么我们要用不同的标准来衡量机器和人类的智能呢？每次一些新软件成功攻克某一特定属性时，其成果都会因为缺乏真实、交流、内部知识、外部知识、目标—驱动行为或创造力而遭到否决。[42]因此，提出新测试方法就是为了保证有关人工智能技术实现真正的智能。[43]

其中某些测试方法是关于知识表达（机器知道的知识）、解码（将知识从事实真相译成相应表达）、推断（提取知识内容）、控制组合爆炸（预防相同问题的无尽计算）、索引（安排和分类知识）、预测（评估可能现实事件的概率）、动态调整（根据经验自行改变程序）、概括（现实事件的归纳解释）以及求知欲（思考现实事件或试图寻找事件的原因）等。

从生物学意义上来说，上述所有属性都是人类大脑的表现。没有任何人质疑这一事实。这些属性都是能识别和量化的大脑神经元活动的表现。若是如此，如果可以用激活神经元的方式激活三极管的功能，为什么不能用三极管来再现这些特征呢？[44]答案很简单：因为人工智能实体不是人类。

如果特定人工智能技术成功通过之前设计的测试，提出新测试的过程让人类对机械人的探索永无止境。这个原因更是心理原因，而非技术原因。谈及人工智能时，我们一定不能设想一个拥有机器人金属外表的普通人。可我们却会满足于此，[45]忘记人工智能正是人工的，而非自然的。如果人工智能技术最终成功通过某项测试，这就表明问题不在技术，而在测试。因为人类思维过于复杂，根本不能通过简单的测试检验，所以我们替换了测试，在测试过程中我们更多地了解人类思维，尤其是思维的“官僚性”和目的性，[46]而非技术。[47]

对“将机械人定义为拥有真正智能人格的机械及其可行性”持否定论的论点模板主要如下：

（1）实体若想拥有人格，必须具有属性X。

（2）人工智能技术不能具有属性X。

（3）“人工智能技术行为被认定为具有属性X”表明，它能对该属性进行模仿或模拟。

（4）模拟属性X并不等于属性X。

所以，人工智能技术并非真正智能。有的学者将这个论据模板称为“空壳战略”。[48]注意，论点（2）及其结论会导致“第22条军规”的困境：因为人工智能技术不能具备智能属性，所以人工智能实体不是智能的。

属性X的内容可能完全由高级智能测试编造而成，就此而论，智能测试反映了智能仅为人类特有的信念。只有人类是智能的，所以机器不能具备智能。结果是个悖论。尽管人工智能技术已取得瞩目进步，但人工智能技术能力仍困难重重，因为人工智能研究的进展强调其对人类思维的模仿程度，以及人类思维仍待探索的神秘程度。

20世纪50年代，人们难以相信计算机能在棋局中战胜人类，如果真的发生这种情况，计算机就被视为真的“智能”。可是，1997年，计算机程序（深蓝）在棋局中击败了世界冠军，人们却不认为它是智能的。[49]2011年，另一个计算机程序（沃森）在电视上击败了两位“危险边缘（Jeopardy）游戏”的顶级玩家，人们仍然不认为它是智能的。[50]尽管这台计算机没能理解节目中的几个笑话，但它赢得了比赛。沃森的研发技术后来经过改编应用在高级专家系统上，尽管这项技术已经足够完善到可以诊断疾病，仍有很多人不认为它是智能的。

人工智能技术为机器学习开辟道路，机器学习是一种归纳学习法，计算机会分析各种事例及其发生情况，然后通过概括，产生事实图像供将来使用。[51]类似的知识在人类社会称为专业知识，可人类并不愿意称这些计算机系统是智能的。随着人工智能技术的每次进步，似乎人类离机械人的创造反而越来越远，不过人工智能研究却激发了人类对新物种创造的无尽追求。

有两种方法可以积极地并建设性地应对人类对机械人的无尽追求。第一种是通过技术研究，寻找缩短机器和人类之间差距的方法。从1950年起，人工智能研究人员就选择这个方法，遵循对机械人的原始追求，他们相信未来某一天技术能模仿人类思维。人工智能研究在采取该方法后已经取得非凡成就。[52]

另一种是工业方法。正如下文说明，工业对人工智能在所有细节上都模仿人类思维并不感兴趣。确实，工业宁愿使用无法展现某些人类品质的人工智能实体。因此，机器的劣势——有限的机器模仿人类思维的方式——成为工业的优势。将机器的缺点转化为优点使工业能够增加人工智能实体的使用率和一体化。人工智能技术的工业化应用是导致机械犯罪人出现的催化剂。