首页 理论教育 基于局部线性表示的局部统计不相关约束:高维数据流形学习

基于局部线性表示的局部统计不相关约束:高维数据流形学习

时间:2023-11-24 理论教育 版权反馈
【摘要】:在介绍基于局部线性表示的局部统计不相关约束条件之前,先来介绍一种全局统计不相关。基于局部线性表示的局部统计不相关根据以上分析,一种局部统计不相关可以表示如下:其中,Local表示样本点Xi的局部近邻点的均值。,k)表示任意样本点Xi的流形内图局部近邻点。

基于局部线性表示的局部统计不相关约束:高维数据流形学习

在介绍基于局部线性表示的局部统计不相关约束条件之前,先来介绍一种全局统计不相关。

(1)全局统计不相关

对于特征降维或特征提取方法而言,通常需要建立目标函数实现最佳判别特征投影空间的求解。同时为了满足其他特殊要求,也经常通过对目标函数添加约束条件的形式,建立约束目标函数。对于一个全局不相关,其约束模型可以表示如下:

在上式所示的全局统计不相关中,所有样本的均值都被用来进行统计不相关计算。但是由于忽略了从高维样本数据的局部进行统计不相关学习,对于多流形学习来说,导致不能更好地从多流形分布数据挖掘多流形局部几何结构信息。因此在CDNE方法中,需从局部学习来定义一种新型局部统计不相关。

(2)基于局部线性表示的局部统计不相关

根据以上分析,一种局部统计不相关可以表示如下:

其中,Local(Xi)表示样本点Xi的局部近邻点的均值。

在上一节所定义的流形内图中,任意样本点Xi的局部均值可以用其k个流形内局部近邻点来表示,即:(www.xing528.com)

其中,Xj(j=1,…,k)表示任意样本点Xi的流形内图局部近邻点。

在上式中,假设1/k是任意样本点Xi与其流形内图近邻点的权值,那么就意味在这个流形内图邻域中,任意两个近邻点之间的权值是相同的。同时所有权值之和肯定为1。必须指出的是,在上一节定义的流形内图中,任意样本点Xi由其流形内图局部近邻点进行线性表示,其最小线性表示误差权值也满足和为1的条件,即如下式所示:

因此对于任意样本点Xi,可以采用其流形内图局部近邻点的加权平均值来表示其局部平均值:

因此相应的局部统计不相关可以改写为:

对上式进行进一步的推导:

从上式可以看出,其中间部分就是流形内图散度矩阵,因此局部统计不相关又可以表示为:

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈