如何让机器人具备价值判断功能？探讨伦理道德问题

在人工智能时代，由于选择与判断的主体变成了由人类设计制作的机器，因此，即使人工智能技术不断完善也会有这样那样的问题发生。例如，在性命攸关的重要时刻，人类可以凭借瞬间的直观和条件反射做出决定，而人工智能设备则根据人们事先设计好的算法来决定行为。人工智能可以迅速采集并学习外部环境产生的信息，可是关系到判断和决策的算法需要人类事先设计好后输入到机器上。因此，算法的设计尤为重要。即使随着人工智能技术的发展，可以通过机器学习逐渐改善算法，但是，这种伦理道德问题仍是无法回避的难题。

案例1：电车难题（Trolley dilemma）

在人工智能的伦理方面，常被人们提起的就是“有轨电车事故”（电车难题）和“隧道试验”。其中，有轨电车事故最早在1967年由英国哲学家菲利帕·福特（Philippa Foot）提出，其内容大致是：一个疯子把五个无辜的人绑在电车轨道上，一辆失控的电车朝他们驶来，片刻后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。但是问题在于，那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你是否应拉拉杆？

与此类似的还有隧道试验。高速公路上行驶的汽车准备进入隧道时，突然出现一个小孩摔倒在隧道前面，驾驶员应该撞向小孩进入隧道，还是应该撞向隧道的墙壁牺牲自己的性命救小孩？

上述两个案例都是从牺牲自己（保护行人）和自我保护（保护乘车人员）模式中选择其一的问题，这与人工智能技术无关，是伦理学中一直颇具争议的话题。处于上述情况时，站在功利主义原则，应该选择牺牲者较少的方案；而批判功利主义的道德主义认为，每个人都很平等，因此不能简单地认为五个人的生命比一个人的生命更重要，在面对此类两难选择时，应当不作为。

假设这些判断和决定取决于人工智能的算法，那么从人工智能通过公式决定生死这一点看，未来，对人类的尊严和平等方面的争议将会进一步扩大。

案例2：对反人类媒体内容的管理有限

当前，人们可以通过社交媒体或在线网络平台等各种渠道实时了解发生在地球村各个角落的事件或事故等信息。在超链接社会，这种信息的传播速度将进一步加快。但是相比之下，脸书（Facebook）、推特（Twitter）等社交媒体或优图（Youtube）、汤博乐（Tumblr）等在线网络平台，可以自动筛选反人类内容的算法和技术，远远赶不上媒介的传播速度。

2019年3月15日，在新西兰基督城（Christchurch）发生了一件全副武装的恐怖分子举枪扫射，造成50人死亡、50多人受伤的恐怖事件，令全世界大为震惊。当时，恐怖分子犯下暴行的同时，用脸书（Facebook）实况录制传播了长达17分钟可怕的现场视频。该视频中包括恐怖分子开车前往事件发生地点，以及用枪胡乱扫射的场面。事情发生之后，脸书（Facebook）按照新西兰警方要求删除现场视频并封了犯罪嫌疑人的账号，同时也立刻删除了赞同该枪击事件的留言和文章。

尽管如此，在事情发生之后的几个小时里，该视频的复制版通过脸书（Facebook）、推特（Twitter）、优图（Youtube）等平台在网民中迅速传播。虽然其他平台也采取了封转发者账号、动员AI探测系统删除视频等措施，还是不能完全阻断该视频的传播。通过这件事，人们纷纷表示担心，SNS、在线网络平台等提供的实况录制转播服务有可能被恐怖分子用作扩散恐怖主义的窗口。^[11](www.xing528.com)

与之类似的案例不断出现。2019年7月，在美国纽约州尤提卡镇，一名17岁少女被一同去看演唱会的20岁男性杀害，之后尸体照片被杀人犯发布至Instagram上长达20小时，期间被人们疯狂传播。尽管当时很多人要求平台删除相关照片，但Instagram却以这种做法并没有违反使用条款为由，没有采取相应的措施。Instagrm的内部过滤系统也受到了人们的谴责。

上述几件事情，都属于人们为了提高点击率恶意转发反人类内容的情况，而SNS公司的疏忽管理和淡薄的用户伦理意识等，激起了大众的愤怒。^[12]

此外，2017年4月，在美国俄亥俄州克里夫兰市也发生过用脸书（Facebook）实况转播恐怖事件。当时，脸书（Facebook）为了自动屏蔽这种反人类的内容，在监管上投入了大量的资本和技术，但是效果仍然有限。

案例3：“机器人新闻”（Robot Journalism）

近几年，人工智能机器人撰写体育、经济、天气等新闻速报，提供新闻概要服务的情况越来越多，这些被人们称之为是“机器人新闻”。韩国最大的搜索引擎和门户网站Naver推出了基于人工智能推送新闻的AiRS。2019年4月，有人指出韩国国内综合网站的新闻编辑偏重于政治方面，随后Naver就将系统改造为由人工智能推送新闻。该系统根据用户的新闻内容收看倾向，推送不同的新闻。除了Naver之外，韩国最大的门户网站之一Daum，也提供类似的服务。

当初，推出这种机器人新闻服务的主要目的是为了向大众提供更加客观的新闻，尽可能减少新闻传媒受到政界的影响，尤其是为了摆脱人们对媒体偏重于进步党或保守党等政治倾向的批评。

但是，问题是根据用户的倾向推荐新闻的话，和过去相比用户无法接触更加多元化的新闻，只能受到“确认偏误”的信息。从字典的解释来看，确认偏误是指个人无论合乎事实与否，偏好支持自己的成见、猜想的倾向。由此，人们在脑中选择性地回忆、搜集与自己有利的细节，而忽略与自己相矛盾的资讯，并加以片面诠释，这必然会导致舆论分裂、对立的情况发生。^[13]此外，人们为了加强门户网站的独立性，在门户网站应用算法技术，但由于制作算法的是人，所以无论如何很难保证其完整的独立性。

正如前面提到，人工智能技术有可能会发生错误操作和误诊等情况，同样也存在机器人新闻出现误报由谁承担后果的问题。到底该由新闻编辑部、算法制作部门还是媒体代表或提供原始资讯的媒体中的人来承担？这一问题也没有得到解决。这需要通过社会的广泛议论寻找答案。