深度度量学习模型的优化方法

深度度量学习模型的基本思想是:通过训练大量的数据来发现数据内部的复杂结构，从而使深度神经网络利用其区分能力将图像嵌入到度量空间中。深度度量学习将从大量数据中自动学习的丰富信息抽象为特征向量，同时学习一种新的度量，以最小化同一类样本的间距，最大化不同类样本的间距。如图5-2所示。

图5-2　深度度量学习基本思想[13](www.xing528.com)

关于深度度量学习模型，可以从不同的角度进行大致的分类[14]:

(1)按照学习方式的不同分类。按照学习方式的不同，可以将深度度量学习分为有监督的深度度量学习和无监督的深度度量学习。其中，有监督的深度度量学习利用标签信息来判断图像之间的相关性，学习全局或者局部区域的度量指标，即通过拉近相同类别的样本之间的距离，同时确保不同类的样本距离较远，最后完成后续分类检索等任务。无监督的深度度量学习旨在构建一个低维流形，其中大部分样本之间的几何关系得以保留，根据样本之间的几何关系度量样本之间的相似性，最后根据相似性大小完成后续分类检索等任务。

(2)按照任务的关联性不同分类。按照任务的关联性的不同，可以将深度度量学习分为单任务度量学习和多任务度量学习。其中，单任务深度度量学习是指针对某特定任务，利用训练集中的样本进行目标模型的学习，从而求解度量矩阵。但在实际应用中，针对某个特定任务的训练样本数目可能不够，需要联合多个任务之间的信息来进行更为有效的距离度量学习，即采用多任务深度度量学习。多任务深度度量学习利用迁移学习的思想，将多个相关任务分为源任务和目标任务来实现迁移度量学习，然后通过计算源任务和目标任务之间的协方差来表征任务间的关系，进而完成后续的检索分类等任务。