人与机器之间的自主性及其在法律责任中的复杂性

人类对于制造物的理论假设是：“人类最了解他们的制造物；人造之物处于人的牢固控制之中；技术在本质上是中性的，是达成目标的手段，其利弊取决于人类如何使用。”^[87]但是，人工智能的自主性冲击了该理论假设。自主性（autonomy）是指智能机器（人）具备的自主思考或行为的能力（act or think autonomously），这是人工智能区别于其他人类发明的特性。科学研究的结果与趋势表明，在人类设计和编制的程序之外，智能机器人完全可能产生自主的意识。^[88]自主性意味着智能机器的思维或行为并非简单是人类程序设计的结果，它具有自主学习和适应环境的能力，能够脱离程序设计者进行自主思考或行为，进而导致行为或决策中人的因素被淡化甚至离场。具有自主性的智能系统取代人类发出操作指令，在一定程度上切断了人类与智能机器（人）行为之间显性的联系。智能机器（人）行为和决策的自主性使得人与机器之间的关系复杂化，民事法律责任也随之错综复杂。

（一）机器范式由他主向自主转型

人类早期对智能机器人认知能力的认识建立在计算机的工具性基础上。无论智能机器人在逻辑运算方面具有何种优势，它都不过是人类设计的结果，并非出于自主的意识。计算机是人类程序员设计的强制指令的执行者，编程并未赋予其自主判断的能力。基于学习算法的智能机器（人）与编码机器（人）的区别在于决策或行为的自主性有所差异。ATM 机能够替代人类完成部分金融业务工作，但其决策和行为严格遵循人类程序设计员的编程设计，人类能够预测ATM 机的决策和行为。加入机器学习元素的机器人如AlphaGo的部分决策和行为是学习算法的结果，即便是程序设计者也有所不知。人工智能产品在扑克、国际象棋等竞技活动中的突出表现以及其在语音和人脸识别、医疗、家居等领域的广泛应用使得人类意识到人工智能的认识能力和水平存在超越人类智能的可能性，人工智能替代人类智能进行决策或行为并非异想天开。

人工智能时代，智能范式经历从设计到进化的转变，机器范式实现从他主到自主的转型。他主范式下，机器处于被动的被支配地位，是实现人类目的的工具，是人类意志作用的对象。机器对外界环境做出的反应及其在位置、状态方面的变化，不过是人类预先设计的结果，并不构成严格意义上的“行为”。所谓的“机器行为”不过是对行为概念进行宽泛解释的结果。而智能机器的自主性改变了机器的工具属性。智能机器（人）由输入机制、运算法则和回应机制三个部分组成“感应—思考—行为范式”^[89]。拥有学习算法的智能机器（人）能够根据搜集的数据修改预先设定的算法进而调整决策和行为，其行为方式因此而变幻莫测。智能机器作为人类设计和制造的产物，不再是单纯地接收人类指令而行为的工具，拥有了自主分析和判断的能力。智能机器可以在数据分析的基础上针对特定情境自主决策或行为。“完全的自主性意味着新的机器范式：不需要人类介入或者干预的‘感知—思考—行动’。”^[90]机器范式由他主转变为自主是人类智慧的结晶和体现，它既是人类所期盼的，也是人类所担忧的。

（二）自主性的解释路径

1.技术控逻辑：将人工智能的自主性解释为人类智能的延伸和体现

该解释路径认为，人工智能不过是人类程序设计的结果，是人类智能的外在表象；人工智能独立于人类智能的自主性是程序设计与结果展示之间存在时间差的体现。人工智能的自主性是形式意义而非实质意义上的。洛夫莱斯夫人针对“巴比奇分析机”写道：“分析机无权说它创造出什么新的东西。它所能做的都是那些我们知道怎样命令它去执行的事情。”^[91]冯珏博士将“行动”与目的性相联系，认为目的因素是构成“行动”的要件。缺乏独立性和自主性目的的物理位置或形态变化并非“行动”。AlphaGo 系统本身并不理解围棋对弈过程的意义，不具有独立、自主思考的能力，机器智能的源头并非思维本身而是超级运算。AlphaGo 战胜人类并不可怕，这不过是人类智能升级的结果。^[92]

这一对“自主性”的理解是纯粹技术层面的，其基础是计算力。无论智能机器的表象如何强大，它都不具有类似于人类的心灵，缺乏自主思维的能力。该解释路径下形成了形式上智能形态二元化而实质上智能主体一元化的格局，智能机器是一种工具性或手段性的存在。参与社会生活的机器并无自己的主观目的，对其进行利用和操作是人类主观目的作用于客观世界的结果。机器无所谓“决策”或“行为”，人类是行为或决策的唯一主体。人类对如何利用和操作机器以及相应的后果有较高程度的认知，人工智能自主性是人类智能的延伸和体现。

2.技术失控逻辑：将人工智能的自主性解释为人工智能创造性（creativi⁃ty）

该解释路径认为，初始的人工智能是通过程序设计实现的，但是，人工智能的运行过程中进行决策或行为并不完全取决于程序设计，经深度学习后的人工智能可以针对新的社会环境形成全新的应对策略。“机器人的自主性可以被界定为在外部世界作出独立于外在控制或影响的决定并实施这些决定的能力；这一自主性具有纯技术本质，且其自主性程度取决于机器人被设计成的可与其环境进行交互的复杂程度。”^[93]深度学习弱化甚至切断了人类认知与智能机器（人）的决策或行为之间的关联，人工智能的思维跳出了固有的思维模式（“out-side-box”thinking），具有了创造性，人类思维策略不再是限制人工智能决策或行为的藩篱。人工智能系统本质上不受提前预置的概念、经验法则、传统智慧等因素限制，而人类则需要依靠这些因素才能做出决策。^[94]

在该解释路径下，智能机器（人）的自主行为与自动化存在一定联系但并不等同。智能机器（人）的自主行为具备自动化的外在形式，但是自动化的形式并不必然是智能机器（人）自主行为的结果。自主行为是内在自主性因素的外化，独立、自主的意思是内在因素，自动化的结果是外在表现。自动化与自主行为是包含与被包含的关系。“法官在分配责任时也要区分自动化（automated）机器和自主化（autonomous）机器（如人工智能）。”^[95](www.xing528.com)

人工智能创造性的解释路径遭到部分学者质疑。有学者认为，所谓人工智能创造性不过是一种幻觉（illusion）或错觉。奈特·斯利文（Nate Sliver）认为，不应当用创造性描述计算机的活动，相反，它是通过蛮力的计算速度这样做的。它的优势在于不会因为对正确行为方法的焦虑影响在特定情形下关于正确行为方式的判断。而对于人类而言，这需要超越传统思维的创造力和信心。^[96]赵汀阳教授认为，程序化的方式还处于“遵循规则”的阶段，未进入“发明规则”（inventing rules）的阶段。目前的人工智能尚未可能运作维特根斯坦所谓的“发明规则”（inventing rules）的游戏，所以尚无创造性。^[97]

（三）不同解释路径下对偏离现象的认识

人类智能延伸说解释路径与人工智能创造性说解释路径的分歧主要体现在对人工智能决策和行为偏离人类程序设计的认识不同。人类智能延伸说解释路径将偏离现象理解为设计缺陷、人工智能决策的特殊性以及人工智能计算力的优势。人工智能创造性说解释路径将偏离现象理解为人类程序设计者就不可预见事项有目的的行为。这里的不可预见事项即为人工智能的创造性。

1.人类智能延伸说解释路径下对偏离行为的认识

智能机器（人）的决策或行为具有可预见性（foreseeability），它偏离人类设计的现象被解释为智能机器（人）决策或行为的不可期待性（unexpected），即人工智能的决策或行为在一定程度上是程序设计者意料之外的，被归结为人类智识不足或设计缺陷。对人工智能进行监管的目的是“保障人工智能按照既定的计算机算法运行，不出现不必要的行为或者功能上的改变”^[98]。

人类智能延伸说解释路径下对偏差行为的认识基础包括：①人类智能认知具有局限性。在人类智能可预见的范围内，人工智能的决策和行为与程序设计相一致，但是，人类程序设计的结果并非完全可预见。功能障碍（mal⁃function）、安全漏洞（security breach）、缺陷程序（flawed programming）等设计瑕疵以及程序设计者的智识限制使得程序设计结果会超出人类智能预见的范围，出现智能机器（人）的决策和行为与程序初始设计不一致的现象。②人类智能与人工智能在决策程序方面存在的差异（decision-making process）使得智能机器（人）能够提出人类无法预料的解决方案。人类大脑存在认知局限，有限时间内在特定场景下往往无法就全部甚至多数信息进行分析或处理。因而，由人类决策提供的方案通常是令人满意的方案（satisfactory solution）而非最优方案（optimal solution）。经济学家赫伯特·西蒙（Herbert Simon）将这一策略称为“满意度”（satisficing）。人工智能决策与人类决策不同。人工智能系统作出决策或行为选择时的方式更为直接（more intuitively appealing options），不受经验法则（rules of thumb）、先入为主的观点（preconceived no⁃tions）和传统智慧（conventional wisdom）等因素的限制。^[99]③人工智能依靠具有强大计算力的计算机器进行决策或行为，其计算能力超越人类智能。建立在现代计算机超强计算能力（computational power）基础上的智能机器或系统在有限时间内分析或处理信息的能力远胜于人类，能够提供多种类型的解决方案。其中，智能机器（人）在强大计算力支持下提供的部分解决方案偏离了人类的认知或是人类无法预见的，导致智能机器（人）的决策或行为与设计者的设计意图或预测之间出现偏差。

2.人工智能创造性说解释路径下对偏离行为的认识

人工智能创造性说解释路径下，智能机器（人）的决策或行为偏离人类程序设计不再被归结为程序设计者的意志或行为，而归结为智能机器（人）脱离程序设计者的自主意识或行为。偏离行为本身是人类程序员预期发生但不知晓具体内容的目的行为。也就是说，人工智能偏离程序设计的决策或行为虽然不可预见但属于智能系统设计者或操作者的目的行为。如机器学习是程序设计者的目的行为，但该目的行为的后果可能是设计者无法预见的。依赖“设计后的经验”（post-design experience），即便是极其谨慎的设计者、程序设计员或制造者也无法控制或预测脱离其控制后的人工智能系统。人工智能设计者不能预见智能系统脱离其控制后的行为，即智能机器（人）的决策或行为具有不可预见性，但是，产生不可预见性的能力（unforeseeable behavior）恰恰是智能系统设计者或操作者的目的（intent）所在，即便特定的不可预见行为（specific unforeseen act）并非其目的。^[100]

（四）小结

人类智能延伸说认为人工智能依附或从属于人类智能而存在，人工智能是且仅是人类智能设计的产物，脱离人类智能的人工智能不存在。人工智能创造说在承认人类的“造物主”地位的同时，认为人工智能具有独立或相对独立的地位，并非绝对是人类智能的附庸。两种学说都有一定的合理性，前者立足现实，而后者关注未来科技发展。就目前而言，作为人类智能设计的结果，人工智能技术的研发与应用即便取得了瞩目的成就，也并未根本改变人工智能依附或从属人类智能的状态。完全脱离人类智能且能够与人类智能媲美甚至超越人类智能的人工智能仅存在于科幻小说或影视作品中，尚且缺乏科学依据。但是，无论人工智能是否依附或从属于人类智能，人工智能作为一种新型的智能形态在社会生活中已经并将继续发挥重要作用的事实不可否认。人类智能作为单一智能形态的局面正在被打破，智能主体呈现出二元化趋势，智能机器（人）决策或行为的自主性不断增强，出现偏离现象的原因以及规制方式需要受到关注。