分类是机器学习中一个重要的任务,分类算法通过函数的判断给出输入数据的类别,根据数据的预测类别不同,分类问题可以分为多分类和二分类问题。一些经典的分类算法通常是在数据集平衡的假设基础上提出的,即输入的数据集样本中不同类别的样本数是相同的。但是在实际应用中,许多数据集是不平衡的,而有时少数类会显得更加重要,错分少数类会造成比较严重的后果,例如医学数据分类,银行客户信用评估等。一些以总体精确度为学习目标的传统算法在不平衡数据集分类上表现不佳,因此提高分类器对不平衡数据集的分类效果非常重要。因子分解机(Factorization Machine,FM)是一种基于矩阵分解的算法,它的提出主要适用于解决稀疏数据特征组合问题。FM最大的特点是在线性的基础上同时引入了二阶多项式。由于矩阵分解,FM也能够从稀疏数据中学习到隐藏的特征向量间的关系,使其对稀疏的数据具有很好的学习能力。FM同时具有线性复杂度,这种特点也允许FM更快的训练数据。基于FM,本文将对其在不平衡数据集二分类问题上进行扩展与应用,成果如下:(1)提出了一种基于不平衡分类间隔的因子分解机算法。算法核心思想是在FM中采用合页损失(Hinge Loss)函数和坡道损失(Ramp Loss)函数来训练不平衡数据集,同时引入新的超参数间隔点和截断点。间隔点为错误分类的正样本和负样本提供不同的惩罚系数,以降低分类超平面的偏移度,从而使模型具有可控的分类空间。数据集中的噪音点会影响算法的训练,截断点能够对噪音点进行截断,减少其对模型训练的影响。(2)提出了面向可控分类空间的坡道损失函数超参数自优化算法。在引入不平衡分类间隔之后,模型新增加了超参数,这意味着我们在算法训练时必须手动指定更多的参数值,增加了人工调整模型参数的时间成本。基于此,在模型引入坡道损失函数后,我们对新增的超参数进行了处理,使其在模型训练时能够自我调整,实现自动优化,大大减少了调参所需的时间。(3)实验验证与结果分析。本文选取了 6个UCI上的不平衡数据集进行实验,实验结果表明基于不平衡分类间隔的FM训练效果总体上要好于传统分类模型,且坡道损失函数对噪音点进行了截断,分类效果高于引入合页损失函数后的FM。面向可控分类空间的坡道损失函数超参数自优化算法在不平衡数据集上的训练优势明显,不仅减少了模型中新增超参数的调参工作,而且获得更精确的超参数值,提高了分类效果。