自组织神经网络简介与应用

BP网络和Hopfield网络的学习和分类是以一定的先验知识为条件的，即网络权值的调整是有教师指导的学习调整。而在实际应用中，有时并不能提供所需的先验知识。例如要按实际模式自动聚类，而不是先有样本模式（教师模式），再按样本模式来分类。此时就需要网络有自学习的功能。1981年，科霍南（Kohonen）提出了自组织神经网络（self-organizing feature map，简称SOM），这种网络就是具有自学习功能的神经网络。

生理学及脑科学的研究表明，人脑神经网络接受外界刺激时是分区域的，不同区域对不同的输入模式有不同的敏感。一个神经元的输出，对邻近的神经元（在半径为50～100μm的圆以内的神经元）有较强的正反馈（兴奋性反馈）作用，而对较远的神经元（在半径为100～200μm的圆构成的环带内的神经元）则具有抑制性反馈，对于更远的神经元又有较弱的兴奋性反馈，一直可以延伸到若干厘米远。反馈系统随其与圆心之间的距离变化呈一顶墨西哥草帽形式，称为墨西哥草帽形侧反馈，如图8.4.1所示。

图8.4.1　墨西哥草帽形侧反馈

根据上述脑神经网络自组织的特性，Kohonen提出的SOM网络如图8.4.2所示，输入模式为X=（x1，…，xi，…，xn），它就是外界刺激，通过连接权重Wij与输出神经元j相连，各输出神经元相互有侧反馈相连，所以这种网络实际上是一种非线性映射关系。

图8.4.2　自组织神经网络

在输出层中，最接近输入状态的单元j被激活，此时它与相邻近的同层单元将按墨西哥帽形互相激活，也就是说与j单元邻近的单元，也同时有激活的兴奋输出，而其他单元则被抑制而无输出。根据这一状态，再来调节权重Wij，使其向输入模式X靠拢，以便在稳定时，每一邻域的所有单元对某输入具有类似的输出。网络的学习过程是一种竞争型的学习，具体过程如下：

（1）初始化。将连接权重W随机地赋以［0，1］区间的某个较小值。设置处理单元j的邻域初始半径Nj（0），可随机取一大值。

（2）提供输入。设处理单元i的输入模式为

（3）计算距离。计算j单元的各输入xi与连接权重Wij的欧氏距离dj（注意：这里的连接权重Wij可理解为j的输出）

（4）选择最小距离所对应的单元j*（j*又称为获胜单元）(www.xing528.com)

（5）校正权。在输出层内，在j*周围半径为（t）以内的邻域中，各单元的连接权重均要加以调整，调整的公式是

式中：η（t）是学习速率常数，它随时间而衰减，一般定义

一般为圆形或矩形邻域，其大小也是随时间收缩的。

（6）返回到第（2）步，直至满足［xi（t）-Wij（t）］2＜ε（ε为给定的误差）为止。最后确定获胜单元。

上面的（2）～（5）就是一种竞争学习，当在输入层提供输入模式X后，在输出层中寻找连接权重向量与输入单元i最靠近的单元j*，此时j*及其邻域中各单元被激活，而有输出1，其他单元的输出为0，即

在自组织映射网络的学习中，由于学习速率η（t）随时间的增大而逐渐趋向零，保证了学习过程是收敛的。此外，Kohonen已经证明，当学习结束时，每个Wij近似落入由单元j对应类别的输入模式空间的中心，可以认为该连接权重向量形成了这个输入模式空间的概率结构，这种特性使网络的抗干扰能力较强。

以上讨论的是无教师学习。SOM也可以进行有教师学习。此时输入模式的类别是预先知道的。将输入模式XS（S=1，2，…，M）提供给网络后，输出层单元竞争产生出优胜者，例如单元j*。如果j是单元XS的正确分类，则将单元j*对应的连接权重向量往XS靠拢；否则，将单元j*对应的连接权重向量离开XS。这个“奖惩”过程可用下式表示：

一般有教师学习所需的学习时间比无教师学习的时间少，分类精度也较高。