本节对MSG-DNMF算法的目标函数设计了一种优化求解方法,通过多次的迭代更新求解目标函数的局部最优解,并给出求解方法的收敛性证明。
1.MSG-DNMF算法优化求解
如4.4.2节所述,MSG-DNMF算法的目标函数主要由非负矩阵分解项和正则约束项这两部分组成。其中正交约束项可以作为目标函数的约束条件,而‖X‖2F则可以用tr(XX T)进行代替,从而公式(4-53)中的目标函数R可以转化为
对公式(4-54)中的目标函数分别关于V m、P m,Q m和V求导,从而可得
式中,0≤α≤1表示学习率,为了便于计算,这里取α=1。当∇θφ=0或者满足某个阈值条件时,迭代更新终止。这种更新方式的优点在于能够保证参数θ是非负的,非常适用于非负矩阵分解算法的求解。由公式(4-55)、公式(4-56)、公式(4-57)、公式(4-58)可以看出参数V m,P m,Q m,m=1,…,M和V的梯度均满足更新规则。因此,下面基于上述迭代更新的思想对这四类变量进行求解,即固定其他三类变量,然后优化求解另一类变量。
固定P m,Q m和V,更新V m:当P m、Q m和V固定时,公式(4-54)可以转化为(www.xing528.com)
2.收敛性证明
本节利用辅助函数方法对迭代公式(4-61)、公式(4-65)、公式(4-67)和公式(4-68)中的收敛性进行证明。在给出迭代公式的收敛性证明前,先介绍两个相关引理。
引理4.1 对于任何函数F(x),如果存在函数G(x)满足G(x,x′)≥F(x),而且有G(x,x)=F(x),则称G(x,x′)为F(x)的辅助函数,同时F(x)在公式(4-28)中的迭代过程中是非增的。
下面通过自定义的辅助函数证明在迭代公式(4-61)、公式(4-65)、公式(4-67)和公式(4-68)的更新方式下,目标函数最后能够收敛到局部的最小值。
定理4.1 利用公式(4-61)、公式(4-65)、公式(4-67)和公式(4-68)迭代求解V m、P m、
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。