神经网络的学习方式有哪些？

神经网络中的神经元可以分为3种类型：输入神经元、输出神经元和隐含神经元。输入神经元接受外部信息，输出神经元则向外部输出信息。这两种神经元是神经元与外部环境交换信息的通道，是神经元的重要组成部分。隐含神经元则处于神经元内部，不与外部环境产生直接联系。隐含神经元只接受其他神经元的输出作为输入，产生的输出只作用于神经元。在早期一些简单的神经网络中，只有输入输出神经元，而没有隐含神经元。这种结构的网络计算能力有限，无法实现一些复杂的函数映射。隐含神经元的出现，提高了神经网络的能力，在神经网络中起着极为重要的作用。这3类神经元相互连接，构成了一个功能完整的神经网络。

神经网络的工作过程主要分为两个阶段：一是学习过程（训练过程），此时各计算单元状态不变，各连线上的权值，通过学习来修改；二是网络的运行过程（也叫联想过程），此时连接权固定，计算单元状态变化，以达到某种稳定状态。学习就是相继给网络输入一些样本模式，并按照一定的规则（即学习算法）调整网络各层的权矩阵，待网络的各权值都收敛到一定值时，学习过程便告结束。可见，学习过程的实质就是网络的权矩阵随外部环境的激励作自适应变化的过程。通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点。在一般情况下，性能的改善是按某种预定的度量通过调节自身参数（权值）随时间逐步达到的。学习方式可分为两大类：监督学习（或增强学习）和非监督学习。学习方法的选择与能得到的被控对象的信息有关。

1.监督学习（Supervised Learning）

这种学习方式需要在给出输入模式的同时，给出外部的监督，通过这种监督提供性能误差信息，当输出与监督信息达到预定的要求时，停止学习。具体在应用中，需要使用训练集中的某个输入模式，计算出网络的实际输出模式，再与期望模式相比，求出误差。根据误差，再按某种算法调整各层的权矩阵，以使误差朝着减小的方向变化。逐个使用训练集中的每一个训练对，不断地修改网络的权值。整个训练集要反复地作用于网络许多次，直到整个训练集作用下的误差小于事前规定的容许值为止。增强学习用于目标、期望输出不明的情况，实际上它也是监督学习算法的一种。通过一个描述输出性能的比例因子作为修正信息，该信息一般由内部评价机构产生。目前采用的监督学习算法包括：感知器学习规则、Delta学习规则、Widrow-Hoff学习规则、相关学习规则等。(www.xing528.com)

2.非监督学习（Unsupervised Learning）

这种学习算法不需要外部信息的监督，只依赖局部信息和内部控制，训练集由各种输入模式组成，而不提供相应的输出模式，通过自动对周围的环境进行学习调整，直到网络的结构和连接分布能合理地反映训练样本的统计分布。非监督学习算法应保证：当向网络输入类似的模式时能产生相同的输出模式。也就是说，网络能抽取训练集的统计特性，从而把输入模式按其相似程度划分为若干类，但在训练之前，无法预先知道某个输入模式将产生什么样的输出模式或属于哪一类。只有训练后的网络才能对输入模式进行正确的判断。这种学习不是要寻找特殊映射函数。常用学习规则有Hebb 学习规则、胜者为王学习规则（Winner-take-All Learning Rule）。