呼吁政府有效监管非法移民团聚问题

那天早上，当我走进会议室，参加萨提亚的高管团队周五例会时，我分享了我听到的报道。我们对这一点进行了讨论并认识到，这件事关系到我们一个更大的担忧，即有些人正在极力鼓吹科技公司应该采取主动行动，对于我们反对的政府政策，终止为政府机构提供所有服务。科技现已成为我们生活中一个关键的基础设施，如果不能及时更新技术——或者更糟的是，简单做出终止技术服务的决定——可能带来各种意想不到的后果。正如萨提亚在我们的内部谈话中多次指出的那样，政府正在以电子邮件为工具帮助非法移民家庭团聚。如果我们把邮件系统关掉，谁知道会发生什么。

这让我们得出结论，抵制美国政府机构是错误的做法。但主张采取这种行动的人，包括我们自己的一些员工，提出了一些正确的问题。例如，人脸识别技术带来的挑战需要受到更多关注。

经过深思熟虑，我们得出结论，这项新技术应该受到新的法律法规约束。这是保护公众隐私需求，化解偏见和歧视风险，同时使创新得以继续的唯一途径。

对许多人来说，一家公司主动要求政府监管其产品颇为奇怪。我们的董事长约翰·汤普森说，硅谷的一些人告诉他，他们认为我们因为落后于市场上的其他公司，所以希望通过监管来阻碍我们的竞争对手进步。这让我很生气。与这种指责相反，2018年，美国国家标准与技术研究所完成了新一轮人脸识别技术测试，显示我们的算法在所有类别中都处于或接近领先地位13。共有44家公司提供了自己的技术以供测试，但包括亚马逊在内的许多公司没有提供其技术进行测试。

我们对监管的追求源于我们对市场走向的新认识。几个月前，我们的一个销售团队曾想向一个缺乏独立司法机构、在尊重人权方面成绩欠佳的国家政府出售一种人工智能解决方案，其中包括人脸识别服务。政府想在该国首都部署安装摄像头的服务。我们担心，一个藐视人权的政府可以利用这项技术跟踪任何地方的任何人，或者所有地方的所有人。

在我们内部的人工智能道德委员会的建议下，我们决定不推进这项拟议的交易。当地的团队对此并不满意。作为最终的决策人，我收到当地销售团队负责人发来的一封火药味十足的电子邮件，这个团队一直在全力推动这桩交易。她写道：“作为一个母亲和一个专业人士，如果我们能够提供这项服务，以便更好地应对暴力和恐怖行为风险，我会感到更加安全。”

我充分理解她的观点。这一点凸显了在公共安全与人权由来已久的矛盾之间的艰难权衡。它还表明了许多有关人工智能的新型伦理道德决定的主观性质。当然，我们同样担心，正如那位团队领导和其他人所指出的那样，如果我们拒绝提供这项服务，可能会有其他公司乘虚而入。在这种情况下，我们不仅会丢掉生意，还不得不在其他人帮助将技术用于我们所反对的有害目的时只能袖手旁观。不过，我们权衡了所有这些因素，最终得出结论，我们需要尝试给这种新技术的发展奠定某种类型的道德基础。这样做的唯一办法就是拒绝将其用于某些用途，并推动更广泛的公众讨论。

这种原则性的方法在加州本地的一个警察部门联系我们时经受了考验，他们表示，他们想为自己的所有车载和手持摄像机配备一种能力，使其可以拍摄被拦下的人的照片，甚至包括例行检查时被拦下的人，并查看他们是否与其他罪行的嫌疑人数据库相匹配。我们理解他们的逻辑，但向他们建议，由于人脸识别技术仍然不成熟，因而无法在这种情况下部署。至少在2018年，如此使用这一技术将导致过多的错误匹配，并针对被错误识别的人发出警报，特别是如果他们是有色人群或女性，因为针对这两类人群的错误率仍然较高。我们拒绝了这项交易，并说服了警察部门放弃将人脸识别用于这一目的。

这些经验提供了一些启发，帮助我们思考可以应用于人脸识别的原则。但我们担心，如果我们走上这条伦理大道，但被那些根本没有实施任何防范或限制措施的公司削弱，无论这些公司是在西雅图的另一侧，还是在太平洋的另一侧，则我们的做法都不会产生什么实际影响。与许多基于人工智能的技术一样，人脸识别也会随着大量的数据积累而改进。这就使公司拥有动力尽可能多地进行早期交易，从而导致商业竞争的风险，而科技公司将被迫在社会责任和市场成功之间做出选择。(www.xing528.com)

防止这种恶性竞争的唯一办法是确立一个支持健康市场竞争的责任底线，而一个坚实的底线基础要求我们确保这项技术以及开发和使用它的组织受到法治的约束。

我们从以往针对其他技术所实施的监管中汲取了经验。在许多市场中，兼顾各方利益的平衡监管方式为消费者和生产者双方创造了更健康的动态关系。在20世纪，汽车工业曾花了几十年的时间来抵制监管要求，但今天，人们广泛认识到，法律在确保强制安装安全带和气囊，以及更高的燃油效率方面发挥了重要作用。同样的情况也适用于航空安全以及食品和药品管理。

当然，谈论监管的必要性是一回事，而界定什么样的监管最为合理则是另一回事。2018年7月，我们公布了一个我们认为需要考虑的问题清单14，并就可能的答案征求人们的意见。讨论首先在员工和技术专家中展开，但很快扩展到全国和世界各地，包括美国公民自由联盟这样积极参与这个问题讨论的公民自由组织。

我在巴黎的国民议会上曾与一些立法者交谈，他们的反应尤其令我震惊。正如一位议员所说：“别的科技公司从未向我们提出过这些问题，你们为什么要与众不同？”在人脸识别技术的问题上，我们有时会与科技业同行产生分歧。这或许比其他任何事情都更能反映我们从20世纪90年代的反垄断斗争中学到的东西。当时，我们和许多公司和行业一样，坚持认为监管并不必要，甚至可能是有害的。但是，我们从这个经历中学到的诸多教训之一是，对于在社会上产生广泛影响的产品，或者那些既可带来益处，又可用于不良意图的产品，这种对抗的方法不一定奏效，也可能不会被接受。

我们不再像大多数科技公司那样，坚守抵制政府干预的传统。我们以前进行过那样的抗争。相反，我们已经认可并支持我们心目中更积极但更平衡的监管方式。这也是我们早在2005年就呼吁美国联邦隐私保护立法的原因之一。我们知道，政府有些时候可能会搞砸某些具体事务，并让我们后悔曾倡导政府的参与。但我们认为，无论是对科技行业还是对社会，这种做法从普遍意义上来说都比完全依赖科技行业自行解决一切问题的做法要好得多。

关键之处在于要搞清楚具体细节。尼塔莎·蒂库曾在《连线》杂志发表了一篇文章，描述了这种动态的重要性。她在这篇发表于2018年底的文章中指出：“在经历了整整一年可怕的科技丑闻之后，即使是厌恶政府的高管，也开始公开表示对立法的开放态度。”15但是，正如她认识到的，我们的目标是“更进一步”，提出一项有关政府对人脸识别技术实施监管的具体建议。

到当年12月，我们觉得已经学到足够多的知识，可以提出新的立法建议。我们知道，我们对每个潜在问题都没有答案，但我们相信，在这一领域，已经有足够的答案来制定良好的初步立法，以便确保科技继续进步，同时也能够保护公众的利益。我们认为，各国政府必须跟上这项技术的发展步伐，而渐进式的做法将使整个公共部门能够更快和更好地学习。

从本质上讲，我们借鉴了一家初创公司和软件开发界倡导的概念，即所谓“最简可行产品”。企业家兼作家埃里克·莱斯对这个概念的定义是，它提倡创建“一个新产品的早期版本，允许团队最大限度地获得有关客户的验证式学习（这种学习是基于真实数据收集而不是对未来的猜测）。”16换句话说，不需要等到你对每一个可能的问题都有了完美的答案。如果你确信对关键问题已经有了可靠的答案，那么就行动起来，开发你的产品，并把它推向市场，这样你就能从现实世界的反馈中进行学习。这种方法不仅使企业，而且也使科技更快和更成功地发展。