深度学习在围棋领域的绝杀表现

最早的神经网络是心理学家McCulloch和逻辑学家Pitts在1943年建立的MP模型，后来，心理学家Hebb在1949年提出神经系统的学习规划，Rosenblatt在1957年提出“感知器”（perceptron）模型，但是由于应用的限制，随着人工智能进入第二次“寒冬”时期，人工神经网络发展也停滞了。

1962年，Hubel和Wiesel通过对猫的视觉皮层细胞的研究，提出了“感受野”（receptive fields）的概念。1979年，日本学者Fukushima在此概念的基础上，提出神经认知机，这可能是第一个具有“深度”属性的神经网络，也是第一个集成了“感受野”思想的神经网络。

到二十世纪八九十年代，出现了许多神经网络的新模型，开始掀起了对神经网络研究的世界性高潮。其中最受欢迎的模型有：Hopfield神经网络、玻尔兹曼机和多层感知器。后者可以通过数据分组处理方法进行训练，它可能是最早的深度学习系统。当隐含层的层数多于1层时，这种感知器常常称为深层感知器，它实际上是一种由多层节点有向图构成的前馈神经网络，其中每一个非输出节点是具有非线性激活函数（又称作用函数、传递函数）的神经元，每一层与下一层是全连接的。多层感知器能有效地对视觉输入的某些特性起作用，更重要的是它促成了卷积神经网络结构的诞生和发展。卷积神经网络作为一种判别模型，极大地推进了图像分类、识别和理解技术的发展，在大规模评测比赛中成绩显著。

1998年，LeCun等人首次使用了权值共享技术。1998年，LeCun等人将卷积层和下采样层相结合，设计卷积神经网络的主要结构，形成了现代卷积神经网络的雏形（LeNet）。2012年，卷积神经网络的发展取得了历史性突破，Krizhevsky等人采用修正线性单元（Rectified Linear Unit，Re LU）作为激活函数提出了著名的Alex Net，并在大规模图像评测中取得了优异成绩，成为深度学习发展史上的重要拐点。(www.xing528.com)

在应用方面，卷积神经网络获得巨大成功。除了图像分类外，在人脸识别、交通标志识别、手写字符识别、语音识别、机器翻译、视频游戏、围棋竞赛等方面都取得了令人惊叹的卓越成绩。例如，Deep Mind开发的AlphaGo利用深层网络和蒙特卡洛树搜索（Monte Carlo tree search）方法，2015年10月首次在完整的围棋比赛中没有任何让子，以5比0战胜了欧洲冠军、职业围棋二段选手樊麾。2016年3月，AlphaGo又以4比1战胜了世界冠军、职业围棋九段选手李世石。2016年末至2017年初，AlphaGo在中国棋类网站上以Master为注册账号与中日韩数十位围棋高手进行快棋对决，连续60局无一败绩。2017年5月，在中国乌镇围棋峰会上，AlphaGo以3比0战胜世界排名第一的围棋世界冠军柯洁。

应该说，卷积神经网络在理论上还留有很大的创新空间。现在的实际情况是实践走在了理论的前面。卷积神经网络究竟选多少层？每层选多少个神经元为最佳？激活函数对神经网络的影响规律是怎样的？阈值应该如何设置？初始权值应如何选择？池化层如何设置？如何进行高效、精确的训练？这些问题都鲜有理论的研究结果，这也将促使应用卷积神经网络的广大科技工作者努力攀登更高的创新顶峰。