首页 理论教育 深度卷积神经网络的学习方法

深度卷积神经网络的学习方法

时间:2023-06-30 理论教育 版权反馈
【摘要】:深度卷积神经网络的学习过程就是对卷积神经网络的训练过程,由计算信号的正向传播过程和误差的反向传播过程组成。(二)正向传播过程的主要特性卷积神经网络正向传播的主要特点包括局域感知和权值共享。(三)卷积神经网络的反向传播卷积神经网络的反向传播涉及两个基本问题:误差的反向传播和参数的反向调整。

深度卷积神经网络的学习方法

深度卷积神经网络学习过程就是对卷积神经网络的训练过程,由计算信号的正向传播过程和误差的反向传播过程组成。

(一)卷积神经网络的正向传播过程

卷积神经网络的正向传播过程是指从输入层到输出层的信息传播过程,该过程的基本操作包括:从输入层到卷积层或从池化层到卷积层的卷积操作,从卷积层到池化层的池化操作,以及全连接层的分类操作。

(二)正向传播过程的主要特性

卷积神经网络正向传播的主要特点包括局域感知和权值共享。局域感知是指特征图中的每个神经元,仅与输入图像的局部区域连接。权值共享是指同一特征图中的所有神经元共享同一卷集核,即通过对同一卷集核表示的连接权值的共享来减少神经网络需要训练的参数个数。[5]此外,由池化操作可知,池化操作过程实际上是一种像素的合并过程,该过程降低了特征图像的空间维度,从而降低了神经网络的复杂度。权值共享的关键是卷集核。卷集核的结构是一个可调节的权值矩阵,其作用是提取输入图像的特征。由前面讨论可知,卷集核提取图像的一种特征,将其与输入图像做卷积运算,即可得到一个唯一的特征图。卷集核与特征图之间的一一对应关系说明,特征图中的所有神经元共享同一个卷集核,即同一个特征图中的所有神经元与输入图像之间的连接权值都由同一个卷集核确定,这大大减少了需要调整的神经元连接权值的个数。

(三)卷积神经网络的反向传播

卷积神经网络的反向传播涉及两个基本问题:误差的反向传播和参数的反向调整。其中,前者与当前网络层的类型有关,即卷积层、池化层、全连接层的误差反向传播方法不同;后者一般通过梯度计算来实现。(www.xing528.com)

【注释】

[1]文常保,茹锋.人工神经网络理论及应用[M].西安:西安电子科技大学出版社,2019:42.

[2]王万森.人工智能原理及其应用(第4版)[M].北京:电子工业出版社,2018:204.

[3]赵建虎.多波束测深及图像数据处理[M].武汉:武汉大学出版社,2008:330.

[4]王万森.人工智能原理及其应用(第4版)[M].北京:电子工业出版社,2018:208.

[5]王万森.人工智能原理及其应用(第4版)[M].北京:电子工业出版社,2018:230.

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈