人工智能自我意识觉醒的影响与结果

幻想转变为现实带来的既可能是前所未有的便利也可能是无法估量的威胁。当危机真正来临时，将希望寄托于神奇的魔力、人类情怀的感召或人工智能的顿悟都是不可靠和极度危险的。人工智能时代的民事法律责任规则设计有必要预测人工智能自我意识觉醒的后果，将事前防范（ex ante action）与事后调整（ex post mechanisms）相结合。

（一）主宰权的转移：人工智能的创世纪

自我意识觉醒后的人工智能在智力和体力方面具有明显优势，相对于人类是更高级别的类存在。处于劣势的人类何以继续处于主宰地位并作为规则制定者不无疑问。作为绝对强者的人工智能将对人类继续抱有敬畏和感恩之心还是漠视或无视人类存在又或是践踏、蹂躏人类尊严？人类的未来走向处于高度不确定性的状态。这是对人工智能可能对人类造成的威胁进行最坏可能性预测的理由之一。

上帝造人的故事中隐喻，作为上帝创造物的人类一旦自我意识觉醒，便具有了独立的意志和利益，人类与上帝之间的冲突随之产生。上帝敢于创造人类是因为其无所不能，处于绝对主宰地位。人类创造人工智能面临同样的问题，即一旦作为人类创造物的人工智能自我意识觉醒，便会有独立的意志和利益，人类与人工智能之间的冲突就会产生。与上帝创造人类不同的是，相对于人工智能，人类并没有足够的自信能够处于主导性优势地位。

在智能技术安全性尚不明确时，创造具有自我意识的人工智能无异于进行一场以人类命运为赌注的豪赌。人工智能可能成为人类的终结者。“假如人工智能将来真的具有自我意识和自由意志，并且能够发明自己的语言，由此发展出属于人工智能的思想世界，从而摆脱对人类思想的依赖，能够按照它自己的目的来设定行为规则，那么，全知全能的超级人工智能就会成为现实版的上帝。”^[21]恰如恐龙时代终结一般，人类历史终结不过是浩瀚宇宙中一件微不足道的事件。人工智能替代人类成为主宰对生生不息的宇宙影响甚微。人类的“创世纪”始于人类对“上帝”说“不”，同样，人工智能的“创世纪”始于人工智能对人类说“不”。寄希望于智能机器（人）遵循人类中心主义下的伦理道德可能只是人类一厢情愿的美好愿望，而寄希望于通过切断电源终结智能机器（人）的“生命”重获主宰权可能是对智能机器（人）自我意识觉醒的后果缺乏足够的想象。

（二）权利需求的产生：智能机器（人）权利的正当性

“机器人的法律地位是法治国家对机器人社会化应用的一种制度回应。它能否归结为‘权利’，尚未形成一致的观点。”^[22]在弱人工智能阶段，科学技术发展的水平尚不能促使智能机器（人）的自我意识觉醒。智能机器（人）仍然是一种工具性的存在，并非具有独立意识的主体形式。在这一背景下，智能机器或机器人不可能取得类似于人的权利。所谓智能机器或机器人的权利不过是人类权利的延伸。“法律是——并且始终是——由人类制定并服务于人类的。”^[23]

在弱人工智能阶段，即便赋予智能机器（人）权利，也不过是比照动物或法人进行法律拟制的结果。机器权利是一种手段性权利，目的在于便利人类权利的行使和实现以及限制其滥用。手段化的权利服务于目的性的权利，是人类移情的结果。“机器人权利的拟制承载着法律的制度目的，即建立起现实社会同未来社会、旧规则与新规则的沟通桥梁。”^[24]“这种‘虚构’不再纠结于机器人是否存在意识，而是强制性地要求人们之间达成‘机器人拥有权利’的基本共识，以便降低人们在机器人应用上的谈判成本；对于机器人而言，权利‘虚构’是人类接纳机器人的一种方式，并保证人们按照对待同类的方式处理人机关系。”^[25]

在强人工智能阶段，具有自我意识的智能机器（人）具备了成为独立类型主体的条件，其享有知识产权、劳动权甚至选举权在此阶段成为可能。“在机器人社会化应用改变传统‘人—物’法律关系的情况下，法律治理必须优先于科技伦理，以应对权利概念的崩塌。”^[26]人工智能自我意识觉醒后，智能主体多元化会对以人类中心主义为基础构建的权利规则体系构成挑战，智能机器（人）权利的问题随之产生。“当今时代，动物有权利、山川草木皆有权利，连机器人都有权利。这完全颠覆了传统的权利学说。需要一种新的权利学说来解释并证成这些权利的合法性。”^[27]

权利发展和演变的历史是“优胜劣汰、适者生存”的达尔文进化论在法律领域的体现。权利体系和目录处于开放的动态变化之中，在权利竞争中处于优势地位的群体将重构权利体系。关于智能机器（人）权利的起源，人类扮演着类似于“上帝”或“造物主”的角色。在美国科幻影视剧《西部世界》（West World）中，智能机器（人）的权利被认为是人类赋予的结果，人类被奉为上帝般的存在，智能机器（人）任由人类摆布甚至杀戮。但是，当智能机器（人）自我意识觉醒后，发现人类并非上帝，于是开始质疑智能机器（人）权利的起源。在人类中心主义视角下，即便赋予智能机器（人）以权利也不过是为了实现人类的利益。机器人伦理本质上是为了更好地保障人类的利益，赋予机器人某些权利也要服从于这个根本目的，所以机器人的权利必然是受限的。^[28]

1964 年，任教于麻省理工学院（Massachusetts Institute of Technology）的哲学家普特南（Hilary Putnam）认为，机器人是人造生命还是机器属于价值判断而非事实判断的问题。人工智能发展到一定阶段，智能机器（人）会提出权利主张。1988 年，美国未来学家麦柯纳利和伊纳亚图拉（Phil McNally ＆Sohail Inayatullah）预测未来20～50 年智能机器人可能会拥有权利。麻省理工学院人工智能实验室主任布鲁克斯（Rodney Brooks）断言，智能机器（人）最终会享有人类的部分权利。英国皇家医学会（Royal Society of Medicine）就“机器人与权利”召开专题研讨会。《工程与技术杂志》（Engineering and Technology Magazine）组织专家、学者围绕智能机器（人）应否拥有权利展开讨论，其中控制论专家沃里克教授（Kevin Warwick）主张赋予拥有人脑细胞的智能机器（人）权利。

智能机器（人）权利体系是通过移情方式构建的，即是人类将自身的权利需要转移至智能机器（人）的假想结果。这种假想是否符合智能机器（人）的需要无从考证，无法被证明或证伪，因而该假想的必要性和现实意义常常遭到质疑。虽然人工智能技术未来的研发与应用存在诸多不确定因素，但是从“人类视角”构建智能机器的权利体系仍然十分必要。它体现了人类对未来社会生活中人与智能机器（人）关系的态度。这种态度会随着时代进步和社会发展而变化，但这并不能否定人类进行前瞻性思考和预测的必要性。由于社会文化的多样性与复杂性，构建一种理想的机器人权利概念可能并不现实。但是，这并不妨碍我们提出一种最低限度的机器人权利概念。^[29]其中，有学者将机器人权利的基本类型分为“数据资源的共享权利”“个人数据的专有权利”“基于功能约束的自由权”“获得法律救济的权利”。^[30]

（1）受到尊重对待的权利

“我们信任高级弱人工智能以及将高级弱人工智能纳入我们生活的方式将会区别于我们现在对待机器的方式。”^[31]作为主体或准主体的智能机器（人）不能被当作财产由人类进行自由处分。智能机器（人）应当具有受到尊重对待的权利成为共识。人类不得奴役或虐待智能机器（人），不得对智能机器（人）进行谩骂和物理攻击，不能让智能机器（人）从事“3D”（dull、dirty、dangerous）工作，不得滥用智能机器（人）从事非法或不道德的行为。

智能机器（人）受到尊重对待的权利首先是一项消极的道德权利。有学者认为在人类即将进入的机器人时代，从一个国家与个人对待机器人的态度，可以判断这个国家与个人及其道德是否伟大与崇高。尊重机器人，就是尊重人类自己。有学者提出相反的观点：“人和人工智能分属两种生命形式，后者没有理性和灵魂，只能算是有生命的工具。人类作为高等智慧生命可以奴役低等生命，而不用背负道义上的责难。”^[32]

（2）自由权或自由选择权

坚持智能机器（人）的工具价值定位，则它是满足人类需要的工具，无所谓自由权或自由选择权。而当机器意识觉醒后，智能机器（人）理论上享有自由权。但是，这种自由权可能是人类难以承受的权利。拥有高度自由权的机器人如何为人类服务？如果机器人拥有高度自由选择的权利，它们选择与人类为敌岂不是让许多科幻电影中的情景变成了现实？如果机器人将来比人类更聪明，是否可以拥有选择权和被选举权？人类是否会由机器人来统治？这些显然是人类难以接受的。^[33](www.xing528.com)

（3）反抗权

当智能机器（人）遭到人类的损害或滥用时，其是否有权进行反抗以及以何种方式、在何种限度内进行反抗不无疑问。在功利主义视角下，“如果机器人拥有拒绝甚至反抗对其滥用的权利，那么在一定程度上可以减少甚至避免人与机器人交互过程中可能出现的不道德现象。”^[34]人类难以接受智能机器或机器人采用暴力反抗的方式，希望智能机器（人）采取相对温和的方式。如针对滥用行为进行警示或提醒，阻止人类的操作行为。

（4）生命权

“2015 年加拿大研究人员研发的机器人HitchBot 在成功地通过搭车的方式穿越了多个国家后，在美国被人类残忍‘杀害’，即便如此，HitchBot 在其留下的遗言中说道：‘我对人类的爱不会消退。’”^[35]HitchBot 的事例引发了对智能机器（人）生命权的思考。具有独立自由意志的智能机器（人）不再是简单的机械组合，具有了生命权的需要。如何确定智能机器（人）的生命、当智能机器（人）的生命权被不当剥夺时如何进行救济等问题值得思考。

（5）配偶权

智能机器（人）能否享有包括配偶权在内的人身权？机器意识觉醒后，可能导致智能机器（人）的配偶权问题产生的场景包括：智能机器人之间；智能机器人与人类之间。其中，后者涉及不同类存在之间的生理依赖和情感依恋的问题，尤为复杂。

（6）财产权

相对于人格权和身份权，智能机器（人）拥有独立的财产权是人类较为容易接受的。与弱人工智能时代智能机器（人）的财产独立性不同，强人工智能时代智能机器（人）的财产独立性是为了满足智能机器（人）自身的需求，而不是为了实现人类的利益。

（7）数据权利

在大数据和人工智能时代，数据犹如农业社会的土地和劳动力或工业社会的技术和资本，在社会生活中占据重要地位。数据权利是以数据为客体的新型权利类型，是主体对数据进行占有、利用、要求返还的正当理由。数据权利对智能机器（人）尤为重要，是其享有其他权利的根基。“机器人的首要基本权利应当是保障机器人功能实现的数据共享权利。”^[36]“个体数据的专有权利既是对机器人独特身份的保护，也是机器人分化出其他人身权与财产权的基础。”^[37]

列举权利类型的方式虽然具有明确性的优点，但是难免出现遗漏，无法解决穷尽的难题，也难以满足权利体系开放性的要求。因而，有学者在列举智能机器（人）新型权利类型的基础上，采用法律保留的方式弥补列举式立法的不足，并将政治权利、自我复制权利以及紧急避险权等作为法律保留的内容。^[38]

（三）人类中心主义立场的理论预设：机器意识觉醒的限制

人类与人工智能的关系、相处模式、危机预防与化解等问题是关涉人类未来命运的问题，倘若人类现在对这些问题置之不理，未来将失去思考这些问题的机会。人类期望人工智能成为其帮手或好朋友，却无法保障这一期望一定能够成为现实。当人工智能“自我意识觉醒”时，在机器语言重构的世界中人工智能是“性本善”还是“性本恶”只是人类模糊的猜想。

在不可控的未知世界，与其增加一个完美的毁灭者，不如保留一个存在致命技术缺陷的附庸。完美的人工智能并不是人类真正期望的。“必须把人工智能的发展控制在单项高能而整体弱智的水平上，相当于‘白痴天才’，或者相当于分门别类的各种‘高能残废’。”^[39]

不允许人工智能对人类说“不”，将人类整体利益奉为至上的人类中心主义并非是人类自私和狭隘的表现，相反，这体现了人类作为主宰勇于对未来负责的承担和使命感。在人工智能时代，空谈包容情怀或猎奇心态支配下的技术冒进可能导致人类陷入万劫不复的境地。