基于稀疏投影矩阵的二值人脸识别算法

本节介绍了基于稀疏投影矩阵二值描述子（Sparse Projection Matrix Binary Descriptors，SPMBD）的人脸识别算法，解决了高维二值特征人脸识别算法在面对小规模训练集时存在的过拟合问题。高维特征表示能够携带更多的信息，有助于提升特征的描述能力。但基于高维输出二值特征的人脸识别算法在面对小规模训练集时，即当模型复杂度远大于数据库规模时，会导致严重的过拟合问题。当过拟合问题出现时，增加二值特征输出维度的做法不仅无法提升二值特征的描述能力，反而还使得二值特征失去了鲁棒性，且高维的特征会导致算法的时间空间复杂度高，运算时间长。

SPMBD算法在最大程度上保留二值特征描述能力和判别能力的基础上，通过限制投影矩阵中非零元素的个数，约束特征解空间，从而减小模型的复杂度。基于稀疏投影矩阵的二值描述子人脸识别算法的基本流程如图2-13所示。首先，提取基于实数值的像素差值向量；然后利用基于稀疏投影矩阵二值描述子算法将像素差值向量量化为二值特征；最后，利用聚类和池化的方法，对二值特征进行基于词典模型形式的表达。本节介绍SPMBD算法的核心部分——基于稀疏投影矩阵二值描述子。

1.目标函数的建立

从特征表达项、量化误差项和约束项这三个方面进行考虑，建立SPMBD算法的目标函数，在最大程度上保留二值特征描述能力和判别能力的基础上，学习L个哈希函数，每个哈希函数都将像素差值向量xi根据公式（2-20）投影为二值特征bi=[bi，1，bi，2，…，bi，L，]∈{-1，1}。SPMBD算法为了进一步提升二值特征的描述能力，增加输出二值特征的维度，使得二值特征的维度大于PDVs的维度，即L＞d。

接下来，对三个优化项的数学形式和物理含义进行详细描述。

量化误差项：要求原始的PDVs与学习得到的高维二值特征之间的量化误差尽可能小，从而使得二值编码过程中的信息损失尽可能少。即

特征表达项：要求SPMBD算法输出的二值特征中每个比特之间是相互独立，从而使得SPMBD算法在解决面对小规模数据库过拟合问题的同时，还能够具有较为优秀的描述能力。由于符号函数sgn（·）的存在，使得上述约束难以求解。采用幅值松弛策略，将二值特征的正交约束转化为投影矩阵的约束，即W T W=I。

综上所述，SPMBD算法的目标函数如下：

2.目标函数的优化

本节重点描述如何利用变量分割和惩罚优化策略（variable-splitting and penalty techniques）对SPMBD算法的目标函数进行求解。

SPMBD算法的目标函数（2-46）是一个m-稀疏问题（m-sparsity problem）。由于二值约束和l0-范数的存在，使得公式（2-46）难以求解。为了保证学习得到的投影矩阵同时保留正交和稀疏性质，借鉴变量分割和惩罚技术，将投影矩阵W分割为两个与W相同维度的矩阵W1和W2。其中，将投影矩阵W中的稀疏约束施加于W1中，而将W中的正交约束施加于W2中。为了减小计算代价，使用具有稀疏性质的投影矩阵W1作为最终的投影矩阵，即B=sgn（W1 X）。通过将W分割为W1和W2，原有的目标函数（2-46）则可以转化为两个子问题。为了减小变量分割产生的误差，添加了变量分割误差惩罚项，从而减小W1 X和W2 X的差异，即‖W2 X-W1 X‖2F。因此，目标函数（2-46）可以重写为(www.xing528.com)

式中，α为变量分割误差惩罚项的权重稀疏。当α趋近于正无穷时，公式（2-47）的解收敛于公式（2-46）的解。公式（2-47）中的第一项表示二值量化误差，而第二项则表示将W分割为W1和W2所对应的变量分割误差惩罚项。在公式（2-47）中，共有三个变量W1，W2和B需要优化，同时优化这三个变量会使得公式变为非凸问题。因此，选择迭代优化的策略。

（1）固定W2和B，更新W1

当W2和B固定时，公式（2-47）可以展开成如下形式：

固定S，更新W1：当S固定时，C（W1，S）可以展开成如下形式：

根据Blumensath、Herrity、Horn工作的推导，公式（2-51）的解为

基于稀疏投影矩阵的二值描述子人脸识别算法的流程如表2-3所示。

表2-3　基于稀疏投影矩阵的二值描述子人脸识别算法流程