现在,一台电脑已经可以完成我们几乎所有人从一出生就能做的事——识别人们的脸。对我们大多数人来说,这在一开始是能够认出妈妈的能力。养育孩子的乐趣之一,就是在进入家门的时候看到蹒跚学步的孩子激动地向你扑来。这种会一直持续到青少年时期的反应有赖于人类天生的人脸识别能力。虽然这是我们日常生活的基础,但我们几乎从不停下来思考是什么使它成为可能。
事实证明,我们的脸和指纹一样独特。我们的面部特征包括瞳孔之间的距离、鼻子的大小、微笑的样子和下巴的轮廓。计算机可使用照片来绘制这些特征并将它们编织在一起,并以此为基础建立一个数学方程,这些数学方程可以通过算法来访问。
人们正在把这项技术应用到世界各地,以便改善人们的生活。在某些情况下,这样做是为了方便消费者。澳大利亚国民银行正在利用微软的人脸识别技术开发一种服务,可以让顾客走到ATM前,无须银行卡即可安全取款。这些ATM可以识别顾客的面孔,然后他们就可以输入取款密码并完成交易2。
在其他场景中,这种技术可带来更大的好处。在华盛顿特区,美国国家人类基因组研究所正在利用人脸识别技术帮助医生诊断一种被称为DiGeorge综合征(DGS)或22q11.2缺失综合征的疾病。这是一种多发于非洲、亚洲或拉丁美洲人口的疾病。它会导致各种严重的健康问题,包括心脏和肾脏的损伤。患有这种病的人也常常带有特定的面部特征,这些特征可以通过电脑使用人脸识别系统加以识别,从而帮助医生诊断出需要帮助的病人3。
这些场景说明了一些重要和具体的方法,以便使人脸识别可以用于造福社会。这是21世纪的新工具。
然而,和许多其他工具一样,它也可以变成危险的武器。政府可能会使用人脸识别来识别参加和平集会的每一个人,并相应采取行动造成“寒蝉效应”,从而破坏人们自由表达和参与集会的权利。即使在一个民主社会,警察也可能过分依赖这个工具来识别嫌疑人,而没有意识到人脸识别,就像任何技术一样,并不总是能够完美无误地工作。
由于这些原因,人脸识别很容易与更广泛的政治和社会问题交织在一起,并提出了一个至关重要的问题:我们希望这种形式的人工智能在我们的社会中发挥什么作用?
2018年夏,突然发生了一个与当时最热门的政治话题相关的事件,让我们对未来得以一瞥。当年6月,弗吉尼亚州一位自称“自由软件修补者”的人显然对更广泛的政治问题也有浓厚的兴趣。他在推特上发布了一系列关于微软与美国移民与海关执法局(ICE),签订合同的消息,这些消息源于当年1月微软在公司官方营销博客上发布的一篇文章4。坦率地说,公司里的每个人都已经忘记了那篇博文。不过,那篇文章表示,微软向ICE提供的技术已经通过了极高的安全门槛,将被ICE部署。文章还表示,微软公司对于能够支持该部门的工作而深感自豪,并且还有一句话提到了ICE使用人脸识别技术的潜力5。(www.xing528.com)
2018年6月,特朗普政府决定在美国南部墨西哥边境把非法入境者的孩子与家人分开,这迅速成为一个爆炸性问题。公司几个月前发表的一份营销稿现在看来已大不相同,而人脸识别技术的用途看起来也完全不同。人们担心ICE和其他移民机关可能会把像人脸识别这样的技术应用到工作中。这是否意味着,当移民在城市街道上行走时,连接到云端的摄像机可以用来识别他们的身份?这是否意味着,鉴于这项技术的现状,以及它可能产生偏差的风险,它可能会错误辨识某个人并导致其被错误拘留?这只是许多问题中的两个。
到西雅图人准备吃晚餐的时间,有关那篇营销博客文章的推特已在互联网上迅速传播,我们的传播团队则开始努力拟定回应。一些工程和营销团队的员工建议,我们只需要撤下这篇文章,他们说:“这篇文章已经发表很久了,现在对业务没有任何影响。”
微软传播业务主管弗兰克·肖三次建议他们不要撤下文章。他指出:“这只会让事情变得更糟。”尽管如此,还是有人禁不住诱惑,删除了文章的部分内容。果然,事情变得更糟了,新一轮负面报道蜂拥而至。到第二天早上,人们吸取了这个明显的教训,这篇文章又恢复了原样。
按照惯例,我们首先要弄清楚公司与ICE的合同到底包括了什么。
经过深入调查,我们发现这份合同根本没有被用在人脸识别上。谢天谢地,微软也没有参与任何在边境线上将孩子与其家人分开的项目。相反,这份合同其实是帮助ICE将其电子邮件、日历、消息和文档管理工作转移到云端。这与我们在美国和世界各地与客户(包括其他政府机构)合作的项目类似。
尽管如此,这件事仍然产生了一个新的争议。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。