人工神经网络的优化和应用

人工神经网络（Artificial Neural Network），简称为神经网络（Neural Network），就是以联结主义研究人工智能的方法，以对人脑和自然神经网络的生理研究成果为基础，抽象和模拟人脑的某些机理、机制，实现某方面的功能。国际著名神经网络研究专家Hecht Nielsen对人工神经网络的定义是：“人工神经网络是由人工建立的以有向图为拓扑结构的动态系统，它通过对连续或断续的输入做动态响应而进行信息处理。”

人工神经网络是人工智能研究的主要途径之一，也是机器学习中非常重要的一种学习法。人工神经网络可以不依赖数字计算机模拟，用独立电路实现，极有可能产生一种新的智能系统体系结构。人工神经元模型如图10-5所示。

图中，xi（i = 1, 2,…, n）为加于输入端（突触）上的输入信号；ωi为相应的突触连接权系数，它是模拟突触传递强度的—个比例系数，∑表示突触后信号的空间累加；θ表示神经元的阈值，ϭ表示神经元的响应函数。该模型的数学表达式为：

图10-5　人工神经元模型

（1）与生物神经元的区别

① 生物神经元传递的信息是脉冲，而上述模型传递的信息是模拟电压。

② 由于在上述模型中用一个等效的模拟电压来模拟生物神经元的脉冲密度，所以在模型中只有空间累加而没有时间累加（可以认为时间累加已隐含在等效的模拟电压之中）。

③ 上述模型未考虑时延、不应期和疲劳等。

（2）人工神经网络的构成

单个神经元的功能是很有限的，人工神经网络只有用许多神经元按一定规则连接构成的神经网络才具有强大的功能。神经元的模型确定之后，一个神经网络的特性及能力主要取决于网络的拓扑结构及学习方法。

① 前向网络。

前向网络的结构如图10-6所示。网络中的神经元是分层排列的，每个神经元只与前一层的神经元相连接。最右一层为输出层，隐含层的层数可以是一层或多层。前向网络在神经网络中应用很广泛，例如感知器就属于这种类型。

② 反馈前向网络。

网络的本身是前向型的，与前一种不同的是从输出到输入有反馈回路（图10-7）。

(www.xing528.com)

图10-6　前向网络

图10-7　反馈前向网络

③ 内层互连前馈网络。

通过层内神经元之间的相互连接，可以实现同一层神经元之间横向抑制或兴奋的机制，从而限制层内能同时动作的神经数，或者把层内神经元分为若干组，让每组作为一个整体来动作。一些自组织竞争型神经网络就属于这种类型（图10-8）。

（3）应用神经网络求解问题的一般过程

① 确定信息表达方式。

图10-8　内层互连前馈网络

a.数据样本已知且数据样本之间相互关系不确定；

b.输入数据按照模式进行分类；

c.数据样本的预处理；

d.将数据样本分为训练样本和测试样本。

② 确定网络模型。

a.选择模型的类型和结构，也可对原网络进行变形和扩充；

b.确定输入输出的神经元数目；

c.选择合理的训练算法，确定合适的训练步数，指定适当的训练目标误差。