论文部分内容阅读
在高维数据中,许多样本存在冗余或者不相关的特征,冗余特征的存在会降低算法的效率,不相关特征的存在会对学习算法的效果造成一定的影响。特征选择能给算法带来很多好处,如降低计算代价、提高效率、增强泛化能力等。而在数据样本不断增大的同时,数据的标注结构复杂程度也在不断增大。虽然多标记学习现在已经能够处理大量的标记多义性问题,但现实世界中还有着许多需要反映每个标记对实例准确描述程度的数据,即标记分布型数据。针对以上的数据问题,本文将自我表述思想应用到学习过程中,分别提出基于自我表述的两种学习方法: (1)针对存在大量冗余特征和不相关特征的无标记数据,提出基于自我表述依赖度量的无监督特征选择方法(DMSR)。该算法首先定义特征的性能依赖于原始数据的自我表述依赖度量原则,即投影后的低维空间数据越依赖于原始数据,则该低维空间越好。然后通过依赖最大化,使投影到低维空间后的数据尽可能保持原始数据的特征信息,据此对原始数据进行降维。获得可靠的低维数据后,引入稀疏表示技术进行特征选择。最后,在4个公开的数据集上进行实验,并与3种已有的无监督特征选择算法进行比较,实验结果表明提出的DMSR特征选择方法是有效的。 (2)针对反映实例描述程度的标记分布数据,提出基于正则化样本自我表述的标记分布学习方法(RS SR-LDL)。首先从构建新的标记分布的思想出发,利用样本特征和变换矩阵使得每一个标记分布能够表示为相关样本特征的一个线性组合。然后通过重新构建的标记分布与原始标记分布之间的残差函数建立模型,应用最小二乘法优化模型,同时分别引入L2-范数和L2,1-范数正则化项,设计算法进行求解。最后在12个公开的数据集上进行实验,并与3种已有的标记分布学习算法在五种评价指标上进行比较,实验结果表明提出的RSSR-LDL学习方法是有效的。