【摘要】:基于BP算法的神经网络通过多个具有简单处理功能的神经元的复合作用,使网络具有非线性映射能力,这种网络没有反馈,属于前馈网络。因此,BP算法收敛速度慢的问题是目前难以克服的弱点。为了避免过度训练,在实际问题中,常保留一部分样本数据作为测试样本,而不参加训练。
基于BP算法的神经网络通过多个具有简单处理功能的神经元的复合作用,使网络具有非线性映射能力,这种网络没有反馈,属于前馈网络。尽管理论上的完善性和广泛的使用性,决定了它在人工神经网络中的重要地位,但在应用中仍要注意以下几个问题:
(1)局部极小点的问题。由于BP网络属于一种前馈网络,他的实际输出只取决于网络的输入和网络的权重,因此,对BP网络的误差曲面来讲,其全局最小误差点可能不只一个,存在许多局部极小点;同时在曲面中的平坦区内网络在学习过程中误差改变较小,神经网络对这种区域的映射能力不足。
(2)算法的收敛速度问题。BP算法是通过训练误差反传修改网络权重来实现对客观对象的识别,一般来讲,它对非线性方程的识别需要几千次训练,但要实现对复杂非线性关系的识别则需要训练几万次,甚至几十万次,耗时非常多。因此,BP算法收敛速度慢的问题是目前难以克服的弱点。
(3)隐层神经元节点个数的确定问题。目前,对隐层神经元节点数的确定没有可靠的指导理论,实际应用中大多采用试算的办法来确定。(www.xing528.com)
(4)过度训练问题。在实际应用中如果网络训练次数过多,将导致网络更多地存储了各个训练样本的“个性”,掩盖了全体样本所表现出的“共性”,从而出现网络过度训练(overtrained)或过度吻合(overfitness)。
为了避免过度训练,在实际问题中,常保留一部分样本数据作为测试样本,而不参加训练。在训练过程中,每经过一定的训练次数就停下来,用测试样本检验此时网络对测试样本的测试误差,当测试误差开始上升时,就有可能发生过度训练。经过多次比较,最终确定网络的最佳训练次数。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。