解读人工智能的复杂性问题

与所有信息技术一样，人工智能的设计具有全球性的特征。创造它的技术人员希望它在任何地方都能以同样的方式工作，但各国之间的法律法规可能会有所不同，从而既给政府外交官，也给技术人员带来挑战。我们已经反复经历了这种不同带来的困扰，首先是在知识产权法规方面，然后是竞争规则，最近则是隐私监管法规。但在某些方面，与试图裁定伦理道德问题的法律可能具有的复杂性相比，这些不同不值一提，因为伦理道德问题归根结底是哲学问题。

现在，人工智能迫使世界面对伦理道德和其他哲学传统之间的异同，而此前从未有任何技术有这种需要。人工智能提出了诸多复杂的问题，例如个人应承担的责任、对公众保持透明性的重要性、个人隐私的概念以及基本公平的概念等。但是，假如世界无法就人类的哲学问题达成一致，那么它又如何能在计算机伦理方面找到统一的方法呢？这将是未来的一个根本性难题。

与过去相比，现在更需要创造技术的人员不仅来自计算机和数据科学等学科，还要来自社会和自然科学以及人文学科。如果我们要确保人工智能的决策建立在人类所能提供的最好的基础上，它的发展必须是一个多学科的过程。在我们思考高等教育的未来时，我们需要确保每一位计算机和数据科学家都接触过文科，就像每个文科专业的人都需要掌握一定的计算机和数据科学知识一样。

我们还需要在计算机和数据科学课程中更加注重伦理道德学科的内容，可以采取专门课程的形式，也可以将其纳入几乎所有课程的内容，或者二者兼具。

我们乐观地认为，新一代的学生将满怀热情地接受这项课程。2018年初，我和拥有机器人学博士学位、负责我们主要人工智能工作的微软执行副总裁沈向洋一起公开提出了一个问题。这个问题是：“我们是否应该像医生那样，针对程序员制定一个希波克拉底誓言^[3]？”我们与其他人一起建议应该制定这样的誓言30。几周之内，华盛顿大学一位计算机科学教授就尝试编辑了传统的希波克拉底誓言，针对那些创造人工智能的技术人员提出一个新的誓言31。当我和向洋在世界各地的大学校园里发表演讲时，我们发现这是下一代关心的问题。

最后，一场关于人工智能道德准则的全球对话需要一个更大的舞台。不仅需要让技术专家、政府、非政府组织和教育工作者发表见解，也需要为哲学家和世界上许多宗教的代表提供席位。

为了推动这样的全球对话，我们来到了一个我认为最不可能谈论科技的地方——梵蒂冈。

这次访问从某种程度上来说颇具讽刺意味。我们于2019年2月在罗马短暂停留，在那里与梵蒂冈的宗教领袖们讨论计算机的道德问题。几天后，我们将前往德国参加一年一度的慕尼黑安全会议。届时，我们将被世界各国的军事领导人包围。一周之后，梵蒂冈也将举办内部会议，讨论神职人员的道德问题以及教堂里的虐待儿童问题。因此，我们会面的这个时刻凸显了人类的愿望和挑战。

当我们驱车抵达梵蒂冈时，意大利天主教会的大主教文森佐·帕格利亚阁下满面笑容地出来迎接我们。他满头白发、和蔼可亲，是一位著作等身的学者，领导梵蒂冈处理各种伦理道德问题的工作，包括应对人工智能的新挑战。微软和梵蒂冈决定共同赞助一项博士论文奖，以探索这项新兴技术与长期存在的伦理道德问题之间的交叉点。

那天下午的经历再度提醒我们在科技与科学、哲学与宗教之间曾发生的历史碰撞。在梵蒂冈访问期间，帕格利亚阁下带我们参观了西斯廷图书馆，在那里，我们仔细翻阅了一本《圣经》，这是谷登堡用他发明并于14世纪50年代投入使用的活字印刷机印制的首批《圣经》中的一本。活字印刷术是巨大的技术进步，彻底改变了人类的沟通方式，并影响了欧洲社会的每一部分，包括教会。(www.xing528.com)

我们随后阅览了在那之后150年的一部信函集。它保存了伽利略与教皇的通信，对于了解伽利略和教会关于地球和太阳在天空中位置的争论至关重要。如信函所示，伽利略在17世纪早期用自己的望远镜记录了太阳黑子的位置变化，这表明太阳在旋转。这是一场关于《圣经》解释的激烈争论的一部分，导致伽利略在罗马受到宗教裁判所的审判，并被判终身软禁。

这两本书放在一起，生动地说明了科学技术是如何与信仰、宗教和哲学问题相互联系或碰撞的。如同印刷机和望远镜这样的发明一样，很难想象人工智能不会在这些领域引发新的碰撞。问题是，人们应该如何促进一场深思熟虑、相互尊重和包容的全球对话。

我们在会见教皇方济各和帕格利亚主教时讨论了这个话题。我们谈到了在科技发展的同时，各国越来越转向内部，有时会背弃邻国和其他需要帮助的国家。我提到爱因斯坦在20世纪30年代对科技带来危险的可怕警告。教皇随后提醒我，爱因斯坦在第二次世界大战后曾说：“我不知道第三次世界大战会使用什么武器，但第四次世界大战一定会使用棍棒和石头。”32爱因斯坦的观点是，科技，尤其是核科技的发展，已经可以毁灭一切。

当我们结束会面离开的时候，教皇握着我的右手，同时左手轻抚我的手腕教诲道：“保持你的人性。”

在我们思考人工智能的未来之时，这是一个我们所有人都应听取的好建议。

【注释】

[1]ProPublica是一家非政府、非商业性的独立新闻网站，以调查性新闻报道著称。——译者注

[2]HoloLens为微软推出的一款头戴式增强现实装置，可以完全独立使用，无须线缆连接，无须同步电脑或智能手机。——译者注

[3]希波克拉底誓言是希腊医学家希波克拉底在约2400年之前向医学界发出的行业道德倡议书现在，它已经成为医务人员入门时就要学习的重要内容，而且要求正式宣誓。——译者注