互联网超级智能：科技未来与风险

在电影《终结者》中，人工智能发生突变，控制互联网形成天网并开始摧毁世界，这个题材被很多科幻小说和电影以不同方式表现出来，成为人类一直挥之不去的梦魇，另一部著名科幻电影《黑客帝国》比天网走得更远。这部电影讲述了一名年轻的网络黑客尼奥发现，看似正常的现实世界实际上由一个名为矩阵的超级人工智能系统设计和控制，这个超级版的天网不仅控制了机器人，还控制了人类，让人类大脑相连，生活在一个虚拟的但看似真实的世界里。

科幻作品的意义在于可以跳过科技进步的天堑，直达可能的未来世界，有些前瞻性预言实现了，如法国著名科幻小说家儒勒·凡尔纳（Jules Verne）在莱特兄弟发明飞机前的50年，就“发明”了直升机，他还在自己的作品中把电视称为“电声像机”。霓虹灯、自动人行道、空调、摩天楼、导弹、坦克、潜艇、飞机等，这些20世纪的发明也早已出现在他的故事中。

但也有很多预言和设想没有实现，如时间穿越、与外星人的接触、人类进入黑洞等，在今天也没有找到可以实现的路径。正在形成的互联网大脑，未来会不会演变成天网或“矩阵”？这是一个值得思考和警惕的问题。

仔细观察一下互联网大脑的构成和运转情况，就可以看出，关键风险点主要集中在不断发育成熟的互联网大脑的运动神经系统。

回想一下互联网的发展历程，1969—1990年，互联网主要连接了科研机构、军事机构和政府机构的计算机，人类通过互联网进行科技、军事、政治的信息分享与资料保存，这时的互联网对现实世界的影响还很小。

1990—2010年，随着万维网的诞生，新闻、电子商务、社交网络、博客、音乐、游戏等互联网应用蓬勃发展，数十亿的人类被连接到互联网上，通过互联网，人类可以与数千米外的好友进行交流，足不出户就可以购买另一个国家的商品，可以邀请数十个国家的网友组建战队在网络游戏中厮杀。这时的互联网对人类依然没有值得警惕的危险。

但变化还在悄然发生，随着互联网线路的不断升级，传输速率加快。进入21世纪以来，越来越多的摄像头、声音传感器、温度传感器和湿度传感器被连接到互联网上，人类可以通过互联网看到其他城市的动态，可以听到不同国家景区里的潺潺流水声。互联网已经开始从虚拟世界的建设迈向与现实世界的关联。人类不但可以在互联网虚拟世界漫游，还可以通过互联网看到、听到和感受到现实世界的脉搏，这时的互联网对于现实世界依然是安全的。

但危险的苗头在2012年以后逐步显现，随着工业4.0、工业互联网、无人驾驶、3D打印、智能制造的兴起，无数的智能汽车、无人机、工业机器人、家庭服务机器人、办公设备被连入互联网，互联网大脑的运动神经系统开始加速发育。

还记得《速度与激情8》［The Fate of the Furious（2017）］中黑客通过互联网控制数百辆无人汽车追逐并试图杀害外交官吗？这已经不再是想象。2015年，一名黑客通过入侵赫士睿（Hospira）药物输液泵提高给患者的药物剂量上限并获得成功。该黑客及时通告漏洞，表明这是一次白帽测试行为，但这个事件表明不法分子已经可以通过互联网对人类造成实质性伤害。^[13]

进入21世纪，无线操控的无人机可以看作未来互联网大脑运动神经系统最神奇的组成部分。英国《泰晤士报》（The Times）2009年12月18日报道，伊斯兰武装分子使用廉价的网上黑客软件，成功侵入美国中央情报局（CIA）的“捕食者”无人机攻击系统。尽管武装分子目前仍无法使用黑客软件远程遥控“捕食者”无人机，但他们却可以观看无人机传给美国控制中心的实时监控画面。这个案例突显了互联网大脑运动神经系统未来的安全风险问题。

从广义上说，任何连接到互联网上的可以移动的或对现实世界进行改造的设备都可以被看作互联网大脑的运动神经系统，当这个系统出现问题时，可能会产生无数令人不寒而栗的场景。例如，水库的大坝闸门因控制程序浮点数溢出，突然将闸门从保持关闭的状态改为迅速提升，从而导致大坝突然放水，造成下游重大水灾；互联网云端控制的数千台机器人由于互联网云端AI程序出现错误，进行混乱的运动和操作，对周围的工人造成伤害；更严重的是，联网的核武器被远程的黑客控制或由于自身的程序错误，发生科幻小说里天网做出的发射攻击行为。虽然这个事故不像天网那样，是由AI产生敌对意识导致，但其后果和影响是一样的。

因此可以看出，在今天的现实世界，互联网大脑威胁人类安全的风险，主要出现在互联网大脑运动神经系统的运行过程中，具体有两种风险。(www.xing528.com)

第一种风险是，云机器智能系统中的AI程序特别是AI巨型神经元程序出现错误，导致重大事故。上面谈到大坝突然放水、工业机器人失控、核武器发射属于这一类，对待这种风险需要对程序的安全性、健壮性进行检查，为可能出现错误的系统设计保障方案。当然，更为直接的方法是对可能出现重大伤害的关键设备，进行评估并采取禁止联网的措施。

第二种风险是，黑客、野心家或者没有受到专业训练的操作者对互联网运动神经系统进行操作，导致重大灾难，这是一种更为常见和更为严重的风险，如我们前面提到的黑客攻击医院的医疗设备，敌方人员接管无人机、智能机器人、航空器材等。对于这一类风险，如何区分哪些是破坏分子的操作，哪些是正常操作，在监控和防范上要更复杂和困难。阻止敌对力量、破坏力量对互联网大脑运动神经系统的侵入和使用，将是人类未来要持续面对的问题。

AI能否产生自我意识并控制互联网成为天网是人类最担心的问题，这一担心成为现实需要云机器智能，特别是AI巨型神经元自我觉醒并对人类产生敌对情绪。目前来看，这一敌对情绪还没有产生的科学路径和理论依据。

回顾《终结者》《黑客帝国》《机械公敌》等西方电影的故事情节，我们可以发现一个几乎固定的模式，人类的没落和毁灭、审判日的到来、救世主的出现，应该说这一模式与西方的文化是一脉相承的。基督教文化认为当世界末日来临时，人类将接受最后的审判，而救世主耶稣承担着拯救人类的使命。

作为世界最重要的文化之一，其观点不可避免地会对西方的哲学、思维方式、科学、文化作品产生影响。从正面的意义上讲，它不断提醒人类关注自身的生存和安全，避免人类在处理环境、军事、科技等众多领域的问题时，由于考虑不周而带来不可预测的风险和威胁。从负面的意义上讲，这种恐惧会延缓一些新科技领域的发展。例如，日心说和达尔文进化论都曾受西方文化的抵触和反对。

应该说，这一轮的人工智能浪潮本质上依然是互联网进化过程中的又一次波浪式高潮。它的产生离不开互联网之前的应用和技术，为人工智能的再次爆发奠定了基础。这一次人工智能浪潮具有与以往不同的特点，人工智能和机器人不再是一个个单独的个体，而是通过与互联网中的大数据、社交网络、云计算结合，形成了互联网大脑。这个类大脑架构不但拥有更为丰富的知识，更为强大的计算能力，而且还深入人类生活的方方面面。面对这个庞大的超级智能，人类个体产生了巨大的压力和无力感，这也许就是人工智能威胁论爆发的根本原因。

当人类第一次使用火时，第一次发明蒸汽机时，第一次掌握核技术时，第一次深受电视节目影响时，都曾表现出畏惧，这也许是人类面对新事物的本能反应。1969年，互联网在美国诞生，对人类社会的影响越来越大，而这个新科技产物远不是一个人、一家企业、一个国家所能掌控的。互联网究竟对人类产生了什么影响？互联网的未来是什么？在诸多问题没有得到解答之前，恐惧的阴影必然会通过不同形式表现出来，包括文学作品和电影。

在科幻电影里，互联网经常因为一次闪电、一次误操作或莫名的原因开始出现自我意识和很高的智能，其实这种风险同样存在于一条基因突变的蛇、一棵被核辐射的参天大树、一座被电击的山脉。科学与科幻最大的区别在于，科学需要可达的路径，而科幻可以跳过关键步骤，我们避免杞人忧天的方法是明确哪些是科学，哪些是科幻。

从互联网大脑的形成可以看出，互联网进化的动力源泉主要来自人类的群体智能和机器的云端智能，与天网、“黑客帝国”不同的是，互联网的左大脑-云机器智能并不具备独立的智能和进化能力（包括电力供应、设备维护、新算法和新程序的更新），没有人类的帮助，互联网的左大脑将逐渐枯萎。

互联网的右大脑-云群体智能是驱动互联网发展的核心动力。人类通过社交网络与互联网进行接驳并自主决定是否脱离，人类将保持自己的主动性和能动性，是互联网大脑的关键组成部分，而不是受控于互联网大脑的奴隶。

互联网虽然在形态上形成了类脑巨系统结构，但它依然是人类参与和控制的系统，它是人类自己的延伸，是人类社会的一部分。科幻电影中天网、矩阵、奥创等与人类的对抗，在现实中归根到底依然是不同人类之间的斗争。