零空间方法在《人脸检测与识别研究》中的应用

下面介绍几种零空间方法。

（1）对于小样本问题，Li Chen 等人提出了零空间法[116]，即在Sw不可逆的情况下，用奇异值分解来代表类内离散度矩阵Sw：

式中，U＝V。由于Sw为对称矩阵，则采用Q 矩阵，该矩阵是通过与V的零特征值相应的特征向量构建而成的。围绕Sb展开投影计算，求得全新的类间离散度矩阵：

接下来再求解的特征向量，用W 矩阵当作最具判断力的投影空间，该矩阵是通过其非零特征值相应的特征向量构建而成的。再利用式（4-13）求解投影空间。

此法的缺点是：由于必须由高维矩阵求解SW的特征向量，计算量巨大，要付出巨大的代价。考虑到这一点，作者使用像素聚类法来降维，这虽然减少了计算量和储存量，但算法变得更加复杂。

（2）Yu 和Yang 等人提出了DLDA 法[117]。它与原始的LDA 法并无差异，只是该法需要找到一个矩阵W，同时对Sw, Sb进行对角化处理，如式（4-14）所示。

其主要观点是：将Sb矩阵的零空间删除，只将Sw的零空间保留下来。主要原因是Sb的零空间中并未涵盖对分类有用的信息，而Sw的零空间却不同，它涵盖了至关重要的分类信息[118]。其流程如下：首先对矩阵Sb进行对角化，再用式（4-15）求解Sb的非零特征值和相应的特征向量。

然后利用式（4-16）计算Z。

那么，Z TSbZ = I。(www.xing528.com)

对矩阵Sw进行投影，将之投影至Z 空间中，通过式（4-17）求得矩阵Y。

则矩阵Y 的特征矢量矩阵UY可以用式（4-18）得出。

将YΛ 里面的对角元素按大小顺序进行排序，舍弃前面较大的特征值，保留那些较小的特征值DY以及与DY相应的特征向量U。

用式（4-19）求解最佳投影空间V：

该法的计算过程非常简便。对LDA 算法而言，该法是一种极具代表意义的算法，后续使用的零空间的改进方式基本上都是在此思想基础之上进行的。其缺点是：首次降维之后，空间维数变得很小，这给进一步取得具备更强判断能力的投影方向带来了不良影响。

（3）有学者通过如下做法来有效提升识别率[119]：一是不再使用Sw，而采用矩阵St，或是用St矩阵来代表Sb；二是先对样本进行投影，将之投影至首次求得的投影空间中，并重新计算类间离散度矩阵；三是再次使用LDA 来求解类内与总体两种离散度矩阵。这当中最具代表意义的是Huang[120]等人提出的零空间法，其理论如下：将Sw, Sb两种矩阵的零空间Q 当作总体散度矩阵St的零空间，那么：

在分类判别方面，Q 为无用信息，其主要思想是先将St里面的零空间移除，求得其非零空间U，再对Sb, Sw进行投影，将之分别投影于这个空间，求得 Sw′ ，则：

前面讲述的是针对小样本问题的优化办法，接下来围绕边缘类引发的投影空间近邻样本重叠提出有效的应对之策。