自动驾驶汽车准入制度的正当性证成

（一）为自动驾驶汽车市场化提供合法性支撑

1.市场机制不能减轻自动驾驶技术风险

市场失灵是划分政府和市场权责的边界。政府监管应当是一种旨在矫正市场失灵和促进竞争的制度安排。市场失灵通常可以从信息不充分、负外部性问题以及产业需求三个方面来展开论证。

其一，信息不充分问题。信息问题是规制的一般性正当理由，但在智能互联时代，“数字鸿沟”将冥次方地加剧信息赤字难题。^[3]中国信息通信研究院的报告表明，我国各产业、行会和地区之间的数字经济指数差异较大，其深层次原因是各阶层、群体和地区之间存在巨大的数字鸿沟。^[4]数字鸿沟的存在，使得在自动驾驶汽车市场化进程中，交易双方及规制机构提供和处理有关自动驾驶汽车特定水平及质量信息的边际成本将严重高出于其所带来的边际收益。诚然，跨越“数字鸿沟”应当是智能互联时代服务型政府的职责，但在“数字鸿沟”存在并将长期存在的客观现实下，仅仅依靠市场机制不能自动减轻因信息不充分而引发的市场失灵问题。

其二，负外部性（negative externality）问题。自动驾驶汽车的市场化可能存在明显的负外部性问题：一是可能发生技术失灵，导致严重交通事故；二是可能过度收集处理用户信息，引发对社会公众隐私权的普遍侵犯；三是可能存在道德风险问题，直面所谓“电车难题”（Trolley Problem）^[5]；四是可能发生异化风险，出现自动驾驶系统的滥用甚至犯罪。诚然，合同、侵权等私法上的装置都有能力将外部性问题内部化，但它们的作用很有可能止步于难以估量的交易成本。^[6]特别是考虑到现有法律体系下的侵权责任、消费者权益保护、保险赔付等传统纠错和救济机制，均或多或少地无法适用于自动驾驶汽车的情景之下，上述通过私法装置解决负外部性问题的进路就显得捉襟见肘。^[7]

其三，产业需求问题。自法律制度建立以来，安全问题一直是最为传统的主题。当前自动驾驶汽车市场化的最大障碍也正是社会公众对其安全性的担忧。“很多人坚持认为，无人驾驶汽车只有达到100%完美的可靠性才能合法，那意味着没有发生任何碰撞、事故或失误”，^[8]然而，“现代社会意义上的风险，是建立在对损害可能规模和发生概率等理性计算的基础上，是希望在控制风险的基础上利用其提供的机会”，^[9]如果需要自动驾驶汽车提供十全十美的可靠性，则自动驾驶技术的市场化将永无来日。问题的关键在于，“有关风险的决策实际上是一个社会选择何种生活方式的决策”“风险并不能简单地被当作科学上的‘事实’，而是一系列价值判断”^[10]——在社会心理学的意义上，自动驾驶汽车的故障率降低到多少才是社会公众所可以接受的？显然，社会信心不足对自动驾驶产业而言是致命的，市场机制本身已无力调整社会心理的负担，适当的行政手段就不仅仅为了保护更为普遍的公共利益，而且通过改变风险事实，进而改变对风险的一系列价值判断。自动驾驶汽车的准入制度可以通过提高自动驾驶技术市场化的门槛来从整体上提升自动驾驶汽车的安全性，避免社会公众承受过于巨大的潜在福利损失，从而反向提升社会公众对自动驾驶技术市场化的信心，进而促进产业发展。

2.事前准入制度具备独立的规制价值

基于前述市场机制不能减轻自动驾驶技术风险的矛盾，法律制度有必要从传统的通过法律责任体系调整的间接控制过渡到以行政规制为代表的直接性控制。由于自动驾驶汽车的很多具体的技术性问题需要等到大规模使用之后才能得知，行政机关往往很难作出准确的事前判断，特别是事前控制手段将更多地对个人自由形成限制，因此容易引发在这个领域对事前准入制度的必要性的质疑。故而，论证的焦点可以聚焦于事前准入制度在防范自动驾驶技术风险方面将具备怎样的独立价值。

风险预防要求决策者对自动驾驶技术所引发的风险保持必要的警惕。“我们需要制定和论证新政策（法律、法规……）以规范各种新情况。有时，我们可以预见技术的使用将产生明显的不可取的后果，尽可能多的是，我们需要预见这些后果并制定政策，最大限度地减少新技术的有害影响。^[11]”自动驾驶汽车准入制度一方面要求规制机构利用其专业技术、信息优势以及规模优势来获取、处理和使用信息，降低社会公众的信息成本，在一定程度上解决信息不充分问题；另一方面，还通过引入最低限度的市场准入标准，明确排除不合格的自动驾驶汽车供应商和产品，以此阻却巨大的社会福利损失以及其他负外部性的发生。此外，由于自动驾驶汽车准入制度是通过各项标准来定义自动驾驶系统应该具有的特征，这些标准将倒逼设计者和制造者进行大规模的投资和研发，以提升获得准入资格的可能性。故而，准入制度还增加了市场准入和退出的成本，间接提升了法律实施的水平。^[12]

（二）预防和应对自动驾驶技术的不确定性挑战

“我们无法真正预测未来，因为科技发展并不会带来确定的结果^[13]。”我国《新一代人工智能发展规划》明确提出：“人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律和社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远的影响。在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前期预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。”^[14]

1.软硬件系统及平台的功能发挥面临不确定性挑战

在硬件方面，自动驾驶汽车依赖于高精度的数码相机、摄像头、激光雷达、毫米波雷达等不同种类的车载传感器回传的数据流来“听”和“看”，而车辆识别地理位置则是通过卫星定位系统和高清存储数字地图。客观上讲，经过几十年飞速发展，传感器套件的质量和价格已经基本可以满足自动驾驶的需要，然而即便如此，一些关键性组件的功能发挥仍面临极大的不确定性。(www.xing528.com)

在软件方面，自动驾驶汽车的操作系统包含数以万计的代码。代码的数量之大，以至于任何熟练的程序员也无法精准检索到其中的潜在漏洞（Bug），只能依赖于永无休止的“补丁”程序。而“打补丁”的过程也是多种修改、添加程序的集合，修改之后的操作系统必然产生新的不确定隐患。

在系统平台方面，传感器平台、计算平台和控制平台构成软硬件结合的开放型系统形态。每一个硬件都需要配备专门的软件驱动程序，以使该硬件与操作系统上的其他部分相互连接。这些硬件及其驱动程序都有可能引发系统崩溃。

在车联网通信系统方面，存在一个云端将分布于各地的自动驾驶汽车实体连接起来。这种大数据的交互大大增加了行为的复杂性和归因的不可预见性。

2.恶意攻击在自动驾驶系统安全方面带来不确定性挑战

当代码行数达到数以万计的时候，即使编写无误的程序也会产生崩溃的概率，更何况遭遇黑客攻击、病毒侵袭这类恶性事件，更是会威胁到数据安全。目前，针对自动驾驶汽车攻击的方法五花八门，渗透到自动驾驶系统的每个层次，包括传感器、操作系统、控制系统、车联网通信系统等。^[15]

3.渐进式发展进路所推崇的“人车切换”面临不确定性挑战

至少在目前，大多数国家的自动驾驶发展均遵循循序渐进的思路，即自动驾驶程序在难以驾驭危机的时刻，会通过“切换”程序将驾驶权交还给人工操作^[16]，然后，有关法律规制就可以在原来的框架下进行。比如，全球第一个许可自动驾驶汽车上路测试的美国内华达州，最初就曾经要求在测试时至少有两人在车内，并且其中至少有一人持有驾照。^[17]德国在2017年修订道路交通安全法的时候，虽然允许驾驶员有权在完全自动驾驶期间不亲自进行驾驶操作，但写入了应当承担相应的警觉义务和接管义务的条款。^[18]不过有关研究指出，这种从部分自动化到全自动化的阶段式演进路线在人车切换之时存在高度的不确定性。这不仅因为上述难以驾驭的危急时刻往往猝不及防，而且在于“自主智能代理”会削弱人类的责任感，引发一种被称之为“责任分散”的不确定性挑战。故而“关于‘切换’问题，越来越多的研究人员就一个观点达成了一致——自动驾驶在紧急情况下返回人类驾驶的问题也许根本无法解决”^[19]。

4.机器自主学习能力的不断提升将进一步加剧不确定性挑战

智能是人类社会本质的产物。事实上，人类的驾驶一向面临着不确定性的世界，人类正是通过智能来应对驾驶中的不确定性。认识的不确定性，必然引发对不确定性人工智能的研究。“人工智能学科发展了很多基于图灵机模型的形式化推理方法，通过模拟人在解决确定性问题时的机械步骤来解决具体问题，后来又逐步提出了一系列模仿人类学习行为的方法，着力把人的智能用图灵机表现出来，称为机器学习。^[20]”从这个意义上讲，将机器学习技术应用于自动驾驶，就是一种“拟人化”的技术运用，本质上是对人类驾驶员的智能模拟。“当程序员有了强大计算力的设备和大量训练数据，他就可以编写一个机器学习软件，让机器根据手头的素材‘学会’自行应对处理，某些情况下，软件还可以学会应对不熟悉的新情景。^[21]”这样一来，一台具有自主学习能力的自动驾驶汽车，就并非是在被动执行程序员的预先命令，而是在不断学习并不断创建新的算法规则，从而大大超出其开发者的预期。不过，这种基于自主学习而产生的识别方式具有极大的不确定性。譬如：自动驾驶汽车已经可以识别人、自行车这类简单的物体，但自动驾驶系统可能还未必能够有效识别出骑自行车的人；又比如在没有红绿灯的十字路口，自动驾驶汽车的自主学习将怎样判断交通优先权，以解决困扰多时的“四向停车难题”（FourWay Stop）呢？^[22]这在当下都是极不确定的难题。再比如，在应对操作系统本身的漏洞时，漏洞不仅可以由人类程序员进行修补，甚至可以由某些具备自主学习和修正能力的自动驾驶汽车自身进行修改，这将引发严重的不确定性。

（三）寻求自动驾驶技术在道德伦理上的正当性

不论科技界在对待人工智能的态度上存在怎样的分歧，“从哲学和政治学的角度而言，以人类为中心的计算更契合我们对世界的理解。”^[23]“以人为本”是自动驾驶系统内在的正当性要求。自动驾驶汽车与其他人工智能一样，最初只是一种被灌输了程序员为达到特定目的而编写的代码的物体，但由于迄今为止的自动驾驶系统都毫无悬念地被输入了人类的知识、建模和算法，具有自主学习能力并能够模拟人的驾驶智慧、驾驶行为。因此，自动驾驶系统就大大超越了以往没有灵性的机器，进而形成人机共生的驾驶环境，其在给我们带来无尽欣喜与期望的同时，也逐渐挑战着我们既有的法律、伦理与秩序。自动驾驶的发展并不能以技术中立为由来回避它的价值偏好、商业利益以及社会风险。正如我国《新一代人工智能发展规划》所要求的那样，应当将“人在回路”（Human in the loop）作为研究有关混合增强智能的限定性条件。