首页 理论教育 以智能机器为基础的有限行为规则体系设计

以智能机器为基础的有限行为规则体系设计

时间:2023-07-05 理论教育 版权反馈
【摘要】:④[因果关系的认定]智能机器(人)行为与结果之间的因果关系根据智能系统记录的数据的相关性进行判定。受害人证明其实际遭受的损害与智能机器(人)的行为之间存在事实上的因果关系即可。智能机器(人)基于学习算法而作出的自主决策和行为不属于不可预见的行为。智能机器(人)致人损害,但无法确认责任主体或责任主体无力承担责任时,责任基金起到补充救济受害人的作用。

以智能机器为基础的有限行为规则体系设计

机器智能化程度直接影响智能机器(人)与人的关系,决定其在民事法律责任体系中的基本定位,为责任主体、归责原则、责任形态、责任承担方式等规则设计设定基调。本着“立足现实,着眼未来”的基本思想,当下应当以智能机器(人)有限行为自主性为基础进行民事法律责任规则体系设计,解决现实生活中亟需解决的问题,又为未来规则设计预留空间。[31]

(一)新型民事法律责任一般规则设计

①[智能机器(人)的法律定位]智能机器(人)是人类制造的智能化工具,其行为具有完全或局部自主性。

智能机器(人)不具有独立法律人格,但具有独立意识的除外。

②[智能机器(人)的民事责任能力]智能机器(人)不能独立承担民事法律责任,造成的损失由其制造者、保有者或使用者等主体依法承担。

③[智能机器(人)登记]智能机器(人)的制造者、保有者或使用者等主体可以向智能机器(人)登记机构申请登记。

登记的智能机器(人)致人损害的,首先以登记在其名下的财产承担民事法律责任,不足部分由制造者、保有者或使用者依法补充。

④[因果关系的认定]智能机器(人)行为与结果之间的因果关系根据智能系统记录的数据的相关性进行判定。

受害人证明其实际遭受的损害与智能机器(人)的行为之间存在事实上的因果关系即可。

生产和使用智能机器(人)的过程中,需要强制操作留痕和定期报告。智能机器(人)的制造者、保有者或使用者能够证明损害结果是因不可预见的智能机器(人)的行为导致的,智能机器(人)行为与致害结果之间的因果关系被切断。智能机器(人)基于学习算法而作出的自主决策和行为不属于不可预见的行为。

⑤[以智能机器(人)为联结点的责任承担方式]智能机器(人)导致损害的民事责任承担方式限于财产形式,包括缴出赔偿、召回和销毁智能机器(人)、支付赔偿金等。

⑥[智能机器(人)保险]国家推行智能机器(人)强制责任保险制度。智能机器(人)的制造者或保有者必须为在公共领域使用且具有一定规格物理外观的智能机器(人)投保第三者责任保险。

国家鼓励商业保险公司探索和开展智能机器(人)损失保险、商业责任保险业务。

⑦[智能机器(人)责任基金]智能机器(人)的设计者、制造者和保有者等主体根据设计、制造和保有智能机器(人)的数量或价值向智能机器(人)基金组织交纳费用,形成责任基金。

智能机器(人)致人损害,但无法确认责任主体或责任主体无力承担责任时,责任基金起到补充救济受害人的作用。

(二)新型侵权法律责任规则设计

①[高度危险来源占有人责任]智能机器(人)因设计特性或系统参数而导致行为不完全受人类控制并可能导致他人损害时,视为具有高度危险。

智能机器(人)的占有人对智能机器(人)自主行为致人损害需要承担民事法律责任。这里的占有人包括合法占有人和非法占有人。

②[管理人责任]智能机器(人)致人损害,而其管理人未尽到管理义务的,需要承担民事法律责任。

③[产品责任]生产智能机器(人)应当符合国家标准、行业标准以及消费者的合理预期,不存在致人损害的不合理危险。智能机器(人)产品存在缺陷的,制造者承担产品责任。

算法缺陷,是指设计者设计的算法存在致人损害的不合理风险。因算法缺陷致人损害的,由制造者承担产品责任。算法设计者故意设计缺陷算法致人损害的,承担连带责任。

④[算法的可解释性]智能机器(人)的制造者、保有人和使用人负有解释算法的义务,其不得以算法不可解释为由主张免除责任。

⑤[免责事由]智能机器(人)的制造者无需对制造智能机器(人)当时科学技术水平无法发现的缺陷承担责任。

(三)智能驾驶中法律责任规则设计

①[智能驾驶类型与驾驶权]智能驾驶分为智能驾驶系统辅助、部分智能驾驶和完全智能驾驶三种类型。

在智能驾驶系统辅助中,人类驾驶员控制驾驶权;在部分智能驾驶中,人类驾驶员与智能驾驶系统共同控制驾驶权;在完全智能驾驶中,人类驾驶员转变为乘客,智能驾驶系统控制驾驶权。

②[人类驾驶员的注意义务]在部分智能驾驶中,人类驾驶员负有警惕义务和接管义务,需要监控道路交通状况和智能汽车运行状况并随时准备接管。在完全智能驾驶中,人类驾驶员仅在预先被告知的情况下在智能驾驶系统发出接管请求时负有接管义务。

③[道路交通事故责任]智能驾驶工具的使用人基于人类驾驶员的过错承担责任。

智能驾驶工具的保有人对第三人的损失在法律限定的赔偿额度内承担无过错责任。保有人履行了安全检查义务的,在承担责任后有权向智能驾驶工具的制造商追偿。

④[智能驾驶中的产品责任]因智能驾驶工具存在产品缺陷而导致损害的,智能驾驶工具制造者需要承担责任。

智能驾驶工具被改装,且损害结果是改装导致的,由改装的主体承担责任,原制造商无需承担责任。

智能驾驶工具的制造者负有通知保有人或使用人等主体更新智能系统的义务,因其未履行通知义务而导致智能驾驶工具致损的,制造者需要承担责任。智能驾驶工具的制造者履行了通知义务,但智能驾驶工具的保有人或使用人仍未及时更新并造成损失的,制造者在赔偿限额内与保有人或使用人对第三人承担连带责任,其承担对第三人的赔偿责任后有权向保有人或使用人追偿。

⑤[智能驾驶中的高度危险责任]智能驾驶工具的制造者是从源头控制智能驾驶高度危险的主体,对存在高度危险的智能驾驶活动在法律限定的额度内承担责任。

(四)智能投资顾问运营者法律责任规则设计

①[智能投资顾问运营者的业务范围]智能投资顾问运营者的业务包括投资咨询和资产管理。

②[智能投资顾问运营者的义务]在智能投资顾问活动中运营者需要遵循客户最佳利益原则,履行投资者适当性义务、胜任性义务、谨慎义务和忠实义务等。

③[穿透识别责任主体]因智能投资顾问系统导致的损失应当归咎于智能投资顾问系统运营者。(www.xing528.com)

第三方提供缺陷算法导致投资者利益受损的,智能投资顾问运营者不知情的,承担补充责任;智能投资顾问运营者知情的,承担连带责任。

④[智能投资顾问系统调试和维护义务]智能投资顾问运营者应当配备必要的技术人员和金融人员对智能投资顾问系统进行维护和调试,并在系统存在瑕疵时由自然人投资顾问介入。智能投资顾问运营者未履行调试和维护义务导致投资者利益受损的,需要承担责任。

⑤[抗辩理由]因投资者自身原因、市场行情变化或符合投资目的的行为导致损失的,智能投资顾问运营者不承担责任。

【注释】

[1]郑戈:“人工智能与法律的未来”,载《探索与争鸣》2017 年第10 期。

[2]曹建峰:“全球首例自动驾驶汽车撞人致死案法律分析及启示”,载《信息安全通信保密》2018 年第6 期。

[3]郑戈:“算法的法律与法律的算法”,载《中国法律评论》2018 年第2 期。

[4]参见[美]马修·U.谢勒:“监管人工智能系统:风险、挑战、能力和策略”,曹建峰、李金磊译,载《信息安全与通信保密》2017 年第3 期。

[5]胡凌:“人工智能的法律想象”,载《文化纵横》2017 年第2 期。

[6]参见郑戈:“人工智能与法律的未来”,载《探索与争鸣》2017 年第10 期。

[7]张童:“人工智能产品致人损害民事责任研究”,载《社会科学》2018 年第4 期。

[8]See Mattew U.Scherer,“Regulating Intelligence Systems:Risks,Challenges,Competence,and Strate⁃gies”,Harvard Journal Law & Technology,Vol.29,2016,Spring,p.363.

[9]参见杨立新:“用现行民法规则解决人工智能法律调整问题的尝试”,载《中州学刊》2018年第7 期。

[10]袁洋:“人工智能的民事法律主体地位及民事责任问题研究”,载《中州学刊》2019 年第8期。

[11]袁洋:“人工智能的民事法律主体地位及民事责任问题研究”,载《中州学刊》2019 年第8期。

[12]袁洋:“人工智能的民事法律主体地位及民事责任问题研究”,载《中州学刊》2019 年第8期。

[13]参见张建文、贾章范:“《侵权责任法》视野下无人驾驶汽车的法律挑战与规则完善”,载《南京邮电大学学报(社会科学版)》2018 年第4 期。

[14]张建文、贾章范:“《侵权责任法》视野下无人驾驶汽车的法律挑战与规则完善”,载《南京邮电大学学报(社会科学版)》2018 年第4 期。

[15]冯珏:“自动驾驶汽车致损的民事侵权责任”,载《中国法学》2018 年第6 期。

[16]参见司晓、曹建峰:“论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点”,载《法律科学(西北政法大学学报)》2017 年第5 期。

[17]冯珏:“自动驾驶汽车致损的民事侵权责任”,载《中国法学》2018 年第6 期。

[18]参见董柳:“周光权回应民法典立法:有些问题没解决但不等于没研究过”,载https:/ /3g.163.com/news/article/FF9C8UIL0514R9OM.html?from=history-back-list,最后访问日期:2020 年6月16 日。

[19]赵汀阳:“人工智能‘革命’的‘近忧’和‘远虑’——一种伦理学存在论的分析”,载《哲学动态》2018 年第4 期。

[20]赵汀阳:“人工智能‘革命’的‘近忧’和‘远虑’——一种伦理学和存在论的分析”,载《哲学动态》2018 年第4 期。

[21]赵汀阳:“人工智能‘革命’的‘近忧’和‘远虑’——一种伦理学和存在论的分析”,载《哲学动态》2018 年第4 期。

[22]吴汉东:“人工智能时代的制度安排与法律规制”,载《法律科学(西北政法大学学报)》2017 年第5 期。

[23]吴汉东:“人工智能时代的制度安排与法律规制”,载《法律科学(西北政法大学学报)》2017 年第5 期。

[24]参见吴汉东:“人工智能时代的制度安排与法律规制”,载《法律科学(西北政法大学学报)》2017 年第5 期。

[25]参见赵汀阳:“人工智能‘革命’的‘近忧’和‘远虑’——一种伦理学和存在论的分析”,载《哲学动态》2018 年第4 期。

[26]吴汉东:“人工智能时代的制度安排与法律规制”,载《法律科学(西北政法大学学报)》2017 年第5 期。

[27]腾讯研究院等:《人工智能》,中国人民大学出版社2017 年版,第329 页。

[28]郑戈:“人工智能与法律的未来”,载《探索与争鸣》2017 年第10 期。

[29]吴汉东:“人工智能时代的制度安排与法律规制”,载《法律科学(西北政法大学学报)》2017 年第5 期。

[30]郑戈:“人工智能与法律的未来”,载《探索与争鸣》2017 年第10 期。

[31]人工智能时代民事法律责任规则体系的设计是一个庞大的系统性工程。本书试图在总结本土已有经验的基础上,借鉴国外或地区的立法状况,为人工智能民事法律责任规则设计提供基本的思路和框架。更为详尽的规则体系设计将是笔者后续研究的重点。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈