人工智能威胁：马斯克的观点与人类的担忧

2020 年农历新年前后爆发的新冠肺炎疫情警示人类需要对大自然、技术进步保持敬畏之心。人类作为智能机器（人）的原初设计者或制造者与智能机器（人）之间的地位是否会因技术失控而颠覆？人类如何应对制造物的叛逆行为？机器智能化犹如一柄双刃剑，当刀锋挥向人类时，人类可能面临无法承受的威胁。人工智能先驱者阿兰·图灵曾警示人类，即便机器屈服于人类，人类也应当对作为一种物种的机器保持敬畏。伴随人工智能技术的发展，关于人工智能对人类可能造成的影响备受关注。埃鲁曼在其出版的《技术社会》一书中对技术开发者必然能够控制该技术提出质疑。雷·库兹韦尔（Ray Kurzweil）在《机器之心》一书中盛赞现代计算机的智能性，他创造了“奇点”这一概念，特指人工智能超过人类智能的时间点。他认为“奇点临近”，智人统治的时代将终结于22 世纪之前，人工智能将取代智人成为统治者。^[1]比尔·盖茨主张对智能机器（人）征税，从而减缓其适用于社会的速度，延缓智人时代终结的时间点。依隆·马斯克（Elon Musk）发表“人工智能威胁论”，将人工智能视为人类文明的威胁，呼吁政府监管人工智能技术。史蒂夫·霍金在剑桥大学的就职典礼上发出人工智能可能终结人类文化的警告。研发人工智能需要限定在人类可控的范围内，过度研发并非人类社会之福。

自主与失控犹如孪生兄弟，人工智能自主性增强的过程就是人类不断失去对其控制的过程。主张人工智能威胁论的人士对人工智能的未来发展持悲观主义态度。他们对超越人类智能的强人工智能充满疑虑和担忧，认为强人工智能存在失控的可能。人工智能一旦失控，作为人类创造物的人工智能将取代人类在社会生活中的主导地位，成为新的世界统治者，人类将沦为智能机器（人）的附庸，智人时代终结，智能机器（人）围猎人类的图景可能成为现实。人类难以承担甚至没有机会承担因人工智能技术应用产生的反复试错的机会成本。以被奴役和丧失真正自由为代价换取短暂欢愉和表面自由，是得不偿失的。

高奇琦教授从知识发生学的角度对西方精英学者悲观的宿命论进行解读，认为“由于西方的整个知识传统建立在基督教文化叙事的基础上，人工智能对未来世界的这种悲剧性影响依然是‘末世论’的翻版”。^[2]在基督教文化叙事中，末日是一种警示，是对人类的无知、贪欲、罪恶的告诫；它也是一种启示，是对上帝力量的彰显。末日来临，上帝出现，救赎开始。超人、美国队长、蜘蛛侠、蝙蝠侠等展现英雄主义的影视作品中具有超凡能力的救世英雄身上无不充斥着全能上帝的身影。虔信基督教的西方精英学者将人类对人工智能的依赖归咎于人类的贪婪、懒惰、狂妄和控制欲，认为人类的原罪以及人性中的恶使得人类过度依赖人工智能，这必将走向终结智人统治的不归路。(www.xing528.com)

人类对于人工智能的担忧显示了人类的不自信。在人类可控的范围内，人类愿意信任人工智能，并对人工智能的研发和应用抱有极高的热情。但是，一旦超出了人类可控的范围或者进入人类未知的领域，人类就会对人工智能保持高度警惕。例如，在有关人工智能的未来设想中，人类应当禁止让渡高能武器的控制权以及设置一键毁灭系统。“即使人类一定要发展人工智能，也必须把武器的使用权和使用能力留给人类自己，必须保证人工智能无法操作武器系统，否则人类的末日就可能不仅仅出现在科幻片中了。”^[3]

人工智能创造的文明是全景式、整体性和颠覆性的。在人工智能技术高歌猛进、披荆斩棘的时代，对技术进步持谨慎的怀疑态度似乎不合时宜。技术依赖使得反思和批判精神成为稀缺资源。而恰恰是冷静的、理性的质疑和批判才能避免因技术狂热而导致技术海啸和不可逆转的灾难。