人工神经元的连接方式称为人工神经网络的拓扑结构。根据神经网络的拓扑结构和信息流在其中的传递方式,人工神经网络可以分为前馈网络(Feedforward Networks)、反馈网络(Recurrent Networks)和混合网络(Mix Networks)三种形式。这里简要介绍前馈网络和反馈网络。
6.3.1.1 前馈网络
前馈网络的信息流由输入层逐级向下层传递,本层的神经元只接受上一层输出的信号,各层中神经元之间没有反馈信息流。单层前馈网络是最简单的前馈式网络,它没有隐层,由输入层经过运算直接输出到输出层。对于多层前馈网络,其输入、输出神经元与外界发生联系,直接感受外部环境的刺激;而中间隐层与外界无直接联系。多层前馈网络拓扑结构如图6.4所示。
图6.4 多层前馈网络拓扑结构
为了了解人工神经网络对信息流的处理过程,这里以单层前馈网络为例加以说明。
设网络的输入向量X=[x1,x2,…,xn]T,神经元节点的连接权重以权重矩阵表示为:
式中,权重矩阵的行数等于输出神经元节点数m,列数等于输入神经元节点数n。
阈值θ=[θ1,θ2,…,θm]T,神经元节点的净输入S =[s1,s2,…,sm]T,则有:
这里引入矩阵符号Γ来表示转移函数对神经元节点输入的转移作用,即
式中:Y 为网络的输出。于是有:
对于多层网络有:
式中:Yp为第p 层网络的输出;Yp-1为上层的输出,它作为第p 层的输入,当p=1 时,Yp-1=X,即为整个网络的输入。因此,经过训练的多层网络,能够实现X→Y 的非线性映射。
图6.5 三层BP网络拓扑结构图
多层前馈网络在结构上增加了多个隐层,在功能上大大提高了人工神经网络对复杂信息的处理能力。误差反传前馈网络(Back Propagation,简称BP网络)是典型的前馈网络,它是人工神经网络中最为重要的网络之一,也是迄今为止应用最为广泛的网络算法。实践证明,这种基于误差反传遗传算法的BP网络有很强的映射能力,有关水文专家研究发现,三层结构的BP网络就能满足水文预报的一般要求。本书主要对BP网络在中长期水文预报的应用进行研究和探索。三层BP网络拓扑结构如图6.5 所示。(www.xing528.com)
6.3.1.2 反馈网络
如上所述,前馈网络可以用有向无环的图来表示,与此相对,网络中如果某一层的输出通过连接权重作为输入反馈到同一层或前一层,如图6.6 所示,这种含有反馈连接的网络成为反馈网络(或称递归网络,RecurrentNetworks)。
图6.6 反馈网络拓扑结构示意图
(a)部分反馈;(b)完全反馈
前馈网络的输出只与输入和网络的权重有关,与以前的输出无关;而在反馈网络中,输出不仅与当前的输入有关,还与以前的输出有关,因而具有“短期记忆”能力。前馈网络通过权重的前馈联想反映人脑的“长期记忆”能力。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。