了解人工神经网络：概述与应用

神经网络可以指向两种:一种是生物神经网络,一种是人工神经网络。生物神经网络一般指生物的大脑神经元、细胞、突触等组成的网络,用于产生生物的意识,帮助生物进行思考和行动。人工神经网络(Artificial Neural Networks,ANN)简称为神经网络(NN)或称作连接模型(Connection Model),是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。

1.人工神经网络发展史

神经网络的研究从20世纪40年初开始,至今已经有80余年的历史,它的发展并不是一帆风顺的,可以把神经网络的发展历史分成4个时期:启蒙时期、低潮时期、复兴时期、新时期,见表2-1。

表2-1　人工神经网络发展史

2.人工神经网络定义

人工神经网络是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,再结合网络拓扑知识,按不同的连接方式组成不同的网络,从而模拟人脑神经系统对复杂信息处理机制的数学模型,如图2-12所示。其模型特征有高容错性、并行分布的处理能力、自学习能力和智能化等。实际上,它是一个由大量简单元件相互连接而成的复杂网络,具有高度的非线性,是能够进行复杂的逻辑操作和非线性关系实现的系统。

人工神经网络把对生物神经网络的认识与数学统计模型相结合,借助数学统计工具来实现。在人工智能学的人工感知领域,通过数学统计学的方法,使神经网络能够具备类似于人的决定能力和简单的判断能力,这种方法是对传统逻辑学演算的进一步延伸。神经网络从两个方面模拟大脑:

①神经网络获取的知识是从外界环境中学习得来的。

图2-12　人工神经网络

②内部神经元的连接强度,即突触权值,用于储存获取的知识。

人工神经网络具有四个基本特征,见表2-2。

表2-2　人工神经网络基本特征

最近十多年来,人工神经网络的研究工作不断深入,已经取得了很大的进展,其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题,表现出了良好的智能特性。(www.xing528.com)

图2-13　人工神经网络生活案例

如图2-13所示,分析最左侧的猫的特征:尖耳朵、毛茸茸、圆眼睛,经过视觉神经系统,跟之前看过或听过的猫特征进行对比,很快就能判断出这是一只猫;对于人工神经网络而言,经过模型计算分类,这是一只猫,而不是狗,最后输出结果。其实在该案例中,我们就是要用人工神经网络替代人的神经系统来完成某些工作。

3.人工神经元模型

人工神经网络是由大量处理单元经广泛互连而组成的人工网络,用来模拟脑神经系统的结构和功能。根据对生物神经网络的研究,神经元及其突触是神经网络的基本器件,因此,要模拟生物神经网络,首先要模拟生物神经元。人工神经元是对生物神经元的功能和结构的模拟,是对生物神经元信息处理过程的抽象,并用模型图予以表达。

在人工神经网络中,神经元常被称为“处理单元”,有时从网络的观点出发常把它称为“节点”。人工神经网络可看成是以人工神经元为节点,用有向加权弧连接起来的有向图。在此有向图中,人工神经元就是对生物神经元的模拟,而有向弧则是轴突-突触-树突对的模拟。有向弧的权值表示相互连接的两个人工神经元间相互作用的强弱。人工神经元模型如图2-14和图2-15所示。

图2-14　神经元模型

图2-15　神经元模型

在该模型中,x1～xn是从其他神经元传入的输入信号,xi表示从第i个神经元传来的信号强度值,信号经突触传递给树突;突触的连接强度(传递能力)用wi表示,w1～wn分别是输入信号的权重;θ表示一个阈值,或称为偏置(bias),偏置的设置是为了正确分类样本,是模型中一个重要的参数;y是当前神经元的输出。在当前神经元中,对各个树突传来的信号进行汇集和处理:汇集是对输入信号直接相加(∑n i=1wixi);处理则是根据预先设定的阈值θ,如果汇集后的信号强度大于该阈值,就通过轴突产生冲动(输出值1),否则,不产生(输出0)。

如同生物神经元有许多输入(树突)一样,人工神经元也有很多输入信号,并同时作用到人工神经元上;生物神经元中大量的突触具有不同的性质和强度,使得不同的输入的激励作用各不相同,因此,在人工神经元中,对每一个输入都有一个可变的权重,用于模拟生物神经元中突触的不同连接强度及突触的可变传递特性;在生物神经元中,只有在膜电位超过动作电位的阈值时,生物神经元才能产生神经冲动,反之则不能,因此,在人工神经元中,也必须考虑该动作的电位阈值;与生物神经元一样,人工神经元只有一个输出(轴突)。同时,由于生物神经元的膜电位与神经脉冲冲动之间存在这一种数模转换关系,因此,在人工神经元中要考虑输入与输出之间的非线性关系。

4.人工神经网络结构

人工神经网络的模型很多,可以按照不同的方法进行分类。其中常见的两种分类方法为按网络连接的拓扑结构分类和按网络内部的信息流向分类,见表2-3。

表2-3　人工神经网络结构