不平衡数据集的特征是不同类的样本数量存在着显著的数量差异。从不平衡数据集学习到的基本分类器的预测结果通常会偏向于多数类。产生这种偏差的原因在于传统的分类算法通常使用整体分类精度作为优化指标,而在非平衡数据集中,多数类主导了整体精度。所以解决非平衡数据集分类问题的方法主要分为两类,一类是通过重采样算法,在数据层面改变不平衡性;另一类则是算法层面的改进,修改分类算法使其能够更好地处理不平衡数据集。通过对现阶段非平衡数据集分类方法的研究和分析,本文提出了一些经典算法的改进方案和新的过采样算法:(1)改进SMOTE算法。SMOTE算法根据两个少数样本的线段作为端点生成一个合成样本,由于参与合成的样本数量较少、参考的信息有限等原因,该方法产生的人工样本缺乏多样性。改进的SMOTE算法通过选择两个以上的真实少数样本来进行合成步骤,增加了合成样本的多样性。实验结果表明,改进后的算法在少数类的召回率和总体分类性能上都具有一定的优势。(2)基于K-Means和中心极限定理的过采样策略。对现有的重采样算法进行研究分析可以发现,合成过采样策略大致可以分为分组、合成这两个步骤,根据这个模式本文提出新的算法。K-Means聚类为该算法的分组策略,将相似的少数类样本进行分组。合成方法借助了中心极限定理,估计了分组中样本特征值的分布后再进行人工合成。通过分组-合成模式降低了新样本点出现在其他类判定范围的概率,也消除了数据的不平衡性,提升了分类的效果。算法在实验中显示出了良好的效果,在达成极高召回率的同时也达成了较高的准确率和整体性能。(3)多策略结合解决非平衡数据集的机器学习问题。这一部分将本文提出的两种过采样方法与提升算法结合,同时在数据层面和算法层面对不平衡数据集的分类性能进行优化。重采样算法能够增加分类器对少数类的分辨能力,而提升算法则能够极大提高分类器的整体精度,结合二者的优势可以得到效果极佳的分类模型。实验采用了以基尼系数决策树为弱分类器的提升算法,实验结果显示了多策略结合算法的优秀性能。