司法人工智能应用之路：基于国家安全的反制

从长远看，基于大数据的智能分析和天然的信息论、系统论视角，人工智能将有力地推动司法功能的蜕变。在传统上，定分止争被视为司法的基本功能。但从系统论看，司法不仅仅是对个案的裁判，亦是社会治理体系的重要一环。通过个案裁判形成制度助推，往往是拓展司法社会治理功能的重要手段。由于各国司法制度、法律传统存在差异，这种拓展往往呈现出不同的表现形式，判例法国家的判例本身就蕴含着具有法律效力的规则体系，司法直接介入社会治理；非判例法国家的司法裁判的介入则可能要间接和迂回一些，如我国法院系统则通过司法解释、指导意见、司法建议、调研报告、新闻发布的方式介入其中。在人工智能的积极应用下，司法的定分止争功能将被更好地拓展为更广阔的社会治理功能。尽管这方面的认识和研究较少，但国内已有法院通过人工智能技术形成社会纠纷根源的数据研究报告，并积极参与府院相协调的源头治理。这种源头治理很好地把握和运用了人工智能的信息工具优势，摆脱了“案海战术”的困境，从社会治理层面最大限度地提升了司法效率。

但福祸相依，司法社会治理功能的拓展以大数据为依托，不可避免地存在一些外溢风险，威胁着国家安全。一方面，司法大数据不同于商业大数据，具有极强的公共属性，数据的公开、存储、流转、开发、利用应以何种主体为依托、以何种方式进行，均是有待深入探索和思考的重要问题。不无疑虑的是，商业领域的数据垄断、数据杀熟会以同样的原理和方式表现在司法领域，如一旦智慧法院建设当中的平台设施和相应的数据要受制或依赖于网络技术公司，则当事人信息（包括身份信息）甚至审判秘密的安全等也可能受到威胁。侯猛就此指出：“利用互联网技术进行网上审判的创意，最早就来自于阿里巴巴公司，且杭州互联网法院是依托阿里巴巴建立诉讼平台来运行的……这既影响了阿里巴巴等平台公司与其他公司之间的非对等地位，如阿里巴巴公司的竞争者为防止数据被监控或泄露，会拒绝在该法院进行网上审判，也增加了法院自身被技术公司俘获的可能。”^[43]另一方面，作为国家政权体系中的一种权力，司法不可避免地带有政治的“烙印”及相应的意识形态色彩，这就决定了对司法大数据的智能运用应有目的上的正当性，尤其是出于国家安全方面的考虑。利用大数据等智能分析的手法，用于策划“颜色革命”或开展其他政治渗透等活动，早已不是传闻，而是活生生的现实。在民族国家博弈的背景下，政治斗争、经济竞争必然长期存在，别国利用可以随手获得的司法大数据，按照其目的，并经由人工智能的处理，进行相应的政治渗透、意识形态层面的“造势”，也并非不可能。且从现实来看，大数据等相关技术在我国目前尚停留在技术应用层面，与此相关且更为重要的网络基础架构、芯片、操作系统和网络服务等都还掌握在美国手中^[44]，这种风险就尤应引起决策层的警惕。严格地说，技术俘获司法、意识形态输入等外溢风险已经超越司法自身范畴，关乎国家安全，但由于司法是社会治理的重要组成部分，以国家安全为基础对人工智能的司法应用进行划界，殊为必要。

【注释】

[1]参见马长山：“人工智能的社会风险及其法律规制”，载《法律科学（西北政法大学学报）》2018年第6期，第47～55页。

[2]参见王禄生：“大数据与人工智能司法应用的话语冲突及其理论解读”，载《法学论坛》2018年第5期，第137～144页。

[3]参见李卓谦：“王禄生：司法大数据与人工智能开发需反思片面技术理性思潮”，载《民主与法制时报》2018年6月3日。

[4]参见季卫东：“人工智能时代的司法权之变”，载《东方法学》2018年第1期，第129页。

[5]参见“谷歌方法论”，来源于得到APP。文中的图示亦来源于此。

[6]参见马兆远：“正视人工智能的‘不能’”，载《中国科学报》2020年3月6日。

[7]参见邬贺铨：“客观看待人工智能”，载《北京日报》2019年10月28日。

[8]See Searle，John.R.（1980），“Minds，brains，and programs”，Behavioral and Brain Sciences 3（3），pp.417～457.

[9]参见华宇元典法律人工智能研究院编著：《让法律人读懂人工智能》，法律出版社2019年版，第13～14页。

[10]参见邓晓芒：《康德〈纯粹理性批判〉句读》（上），人民出版社2010年版，序。

[11]See Alexandru Tugui，“Reflections on the Limits of Artificial Intelligence”，Ubiquity，Volume 5，Issue 38，December 1-7，2004.

[12]姚海鹏等：《大数据与人工智能导论》，人民邮电出版社2017年版，第6页。

[13]参见蒋惠岭：“司法大数据能为我们带来什么”，载《人民论坛》2017年第36期。

[14]See Alexandra Olteanu et al.，“Biases，Methodological Pitfalls and Ethical Boundaries”，https：／／www.microsoft.com／en-us／research／wp-content／uploads／2017／03／SSRN-id2886526.pdf，accessed June 3，2019.

[15]参见姚海鹏等：《大数据与人工智能导论》，人民邮电出版社2017年版，第26～30页。

[16]姚海鹏等：《大数据与人工智能导论》，人民邮电出版社2017年版，第6页。

[17]姚海等：《大数据与人工智能导论》，人民邮电出版社2017年版，第29页。

[18]华宇元典法律人工智能研究院编著：《让法律人读懂人工智能》，法律出版社2019年版，第8页。

[19]参见张钹：“走向真正的人工智能”，载《卫星与网络》2018年第6期。

[20]参见史际春：“由民法看法本位”，载《法律学习与研究》1992年第1期。

[21]《最高人民法院关于确定民事侵权精神损害赔偿责任若干问题的解释》第5条并未明确精神损害抚慰金的计算方式和赔偿限额，各地法院往往根据本地区的经济发展水平及司法实践，制定出具体的精神损害抚慰金计算规则。其中，《安徽省高级人民法院审理人身损害案件若干问题的指导意见》第25条的规定尤为量化，也更适宜于智能化处理：①公民身体权、健康权遭受轻微伤害，不支持赔偿权利人的精神抚慰金请求；②公民身体权、健康权遭受一般伤害没有构成伤残等级的，精神抚慰金的数额一般为1000元至5000元；③公民身体权、健康权遭受的伤害已经构成伤残等级，精神抚慰金的数额可以结合受害人的伤残等级确定，一般不低于5000元，但不高于80 000元。④造成公民死亡的，精神抚慰金的数额一般不低于50 000元，但不高于80 000元。但该条同时规定，案件有其他特殊侵权情节的，精神抚慰金的数额可以不按上述标准确定。受害人自身有过错的，应按其过错程度减少精神抚慰金数额。可见，即使是这类“标准化”的案件也无法完全排除价值判断的因素。(www.xing528.com)

[22]参见冯洁：“人工智能对司法裁判理论的挑战：回应及其限度”，载《华东政法大学学报》2018年第2期。

[23]根据社科院的第三方评估显示：全国法院中尚有2136家法院没有公示不上网裁判文书数量，占62.00%；1808家法院未公开不上网裁判文书的案号，占52.48%；1819家法院未公开不上网裁判文书的理由，占52.80%。参见李林、田禾主编：《中国法院信息化发展报告No.2（2018）》，社会科学文献出版社2018年版，第50页。

[24]早期的一些实证研究指出：有些省份如浙江、陕西、安徽的法院公开文书量可以达到60%甚至70%以上，而有些省份如黑龙江、西藏的法院要低于20%。参见马超、于晓虹、何海波：“大数据分析：中国司法裁判文书上网公开报告”，载《中国法律评论》2016年第4期。目前，这种情况并未得到根本性改观。

[25]《最高人民法院关于人民法院在互联网公布裁判文书的规定》于2013年11月21日公布，自2014年1月1日起施行，2016年8月29日修订。裁判文书上网的全面推开是最近几年的事情，加之各地推进工作的不平衡，历史性、区域性问题较为突出。

[26]参见刘欢：“北京知产法院首次将‘少数意见’写入判决书”，载《北京日报》2015年12月15日。

[27]张钹院士提到，人类的最大的优点是“小错不断、大错不犯”，机器最大的缺点是“小错不犯，一犯就犯大错”。全球有名的索菲亚机器人在电视中看起来侃侃而谈、对答如流，实际上这些问题是预先准备的、有明确答案的。如果临时提问题，索菲亚的缺陷就暴露了。一个中国记者给索菲亚提的四个问题中，它只答对了一个。“你几岁了？”这个问题很简单，但它答不上来，它的回答是“你好，你看起来不错”，答非所问，因为它不理解所问的问题。只有第二个问题“你的老板是谁”它是有准备的，所以答得很好。第三个问题，“你能回答多少问题呢？”它说“请继续”，没听懂！第四个问题“你希望我问你什么问题呢？”它说“你经常在北京做户外活动吗？”参见张钹：“走向真正的人工智能”，载《卫星与网络》2018年第6期。

[28]参见陈金钊：“法官司法的克制主义姿态及其范围”，载陈金钊、谢晖主编：《法律方法》（第7卷），山东人民出版社2008年版。

[29]参见姚海鹏等：《大数据与人工智能导论》，人民邮电出版社2017年版，第29页。

[30]参见王禄生：“司法大数据与人工智能技术应用的风险及伦理规制”，载《法商研究》2019年第2期。

[31]《最高人民法院关于互联网法院审理案件若干问题的规定》第1条规定：“互联网法院采取在线方式审理案件，案件的受理、送达、调解、证据交换、庭前准备、庭审、宣判等诉讼环节一般应当在线上完成。根据当事人申请或者案件审理需要，互联网法院可以决定在线下完成部分诉讼环节。”

[32]参见李晟：“略论人工智能语境下的法律转型”，载《法学评论》2018年第1期。

[33]参见陈敏光：“善假于物与审判异化：司法人工智能的辩证思考”，载http：／／kns.cnki.net／kcms／detail／50.1023.c.20200514.1641.004.html，2020年6月10日访问。

[34]参见蒋惠岭：“司法改革进入新时代　六大配套工程应当成为改革重点”，载《人民法治》2018年第1期。

[35]参见李承运：“正确把握推进电子诉讼的四个维度”，载《人民法院报》2020年4月2日。

[36]See Frank H.Easterbrook，“Cyberspace and the Law of the Horse”，1996 U Chi Legal F 207.

[37]See Lawrence Lessig，“The Law of the Horse：What Cyberlaw Might Teach”，113 Harv.L.Rev.501（1999）.

[38]参见周玉华主编：《中国司法学》，法律出版社2015年版，第16页。

[39]See Han-Wei Liu，Ching-Fu Lin and Yu-Jie Chen，“Beyond State v Loomis：artificial intelligence，government algorithmization and accountability”，International Journal of Law and Information Technology，2019，27，122.

[40]See Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Assessments in Sentencing，MAR 10，2017，130 Harv.L.Rev.1530，https：／／harvardlawreview.org／2017／03／state-v-loomis／，accessedJune 6，2019.

[41]《人民法院组织法》即《中华人民共和国人民法院组织法》。为论述方便，本书涉及的我国法律只使用简称，省略“中华人民共和国”字样，后不赘述。

[42]参见景玥：“法学大咖共聚金陵论司改成果入法如何除旧布新”，载http：／／legal.people.com.cn／n1／2017／0910／c42510-29525963.html，2019年4月12日访问。

[43]参见侯猛：“互联网技术对司法的影响——以杭州互联网法院为分析样本”，载《法律适用》2018年第1期。

[44]美国信息安全权威专家布鲁斯·施奈尔（Bruce Schneier）的观点指出：美国在信息安全技术方面仍然是毫无争议的世界领先者，而且这种领先地位很难被撼动，因为①政府的情报预算超过其他国家的同类预算总和；②由于互联网起源于美国，其基础架构使得全世界的数据流都会经由美国，即使是两个其他国家之间的数据流动；③其他国家的智能产品都在使用美国制造的芯片、操作系统和网络服务，并因此受制于美国法律，“这就是霸权”。转引自Greg Allen and Taniel Chan，“Artificial Intelligence and National Security，Belfer Center for Science and International Affairs”，Harvard Kennedy School，Harvard University，2017，p.97.