1.Elman神经网络结构
Elman网络可以看作一个具有局部记忆单元和局部反馈连接的前向神经网络[1]。Elman网络具有与多层前向网络相似的多层结构。它的主要结构是前馈连接,包括输入层、隐含层、输出层,其连接权可以进行学习修正;反馈连接由一组“结构”单元构成,用来记忆前一时刻的输出值,其连接权值是固定的。在这种网络中,除了普通的隐含层外,还有一个特别的隐含层,称为关联层;该层从隐含层接收反馈信号,每一个隐含层节点都有一个与之对应的关联层节点连接。关联层的作用是通过连接记忆将上一个时刻的隐层状态连同当前时刻的网络输入一起作为隐层的输入,相当于状态反馈[2]。
Elman神经网络除了输入层、输出层和隐层节点外,还有与隐层节点数相同的反馈层节点,其输入是隐层节点输出的一步延迟。设网络外部输入时间序列u(k),隐层输出x(k),反馈层输出xc (k),网络输出y(k),则网络描述为:
其中,xc (k)、x(k)及y(k)分别为k时刻反馈层、隐层及输出层的输出;wI1,wI2及wI3分别为反馈层至隐层、输入层至隐层以及隐层至输出层的连接权矩阵;f是非线性作用函数,取为sigmoid函数:
设网络为单输入结构,则目标函数为:
(www.xing528.com)
Elman神经网络的总体结构如图4-12所示。
图4-12 Elman神经网络的总体结构
2.Elman神经网络学习算法
Elman神经网络采用动态反向传播学习算法,即梯度下降法对网络进行训练,目标是通过对网络各层权值调节,使样本输出和辨识输出的均方误差达到最小。其具体学习算法为:
其中,i=1,2,…,m ;j=1,2,…,n ;q=1,2,…,r ;η1,η2和η3分别是w11、w12和w13的学习步长。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。