在机器学习领域中,解决分类问题的算法针对的大多都是基于均匀分布的平衡数据的分类问题,而对于非平衡数据分类问题,达不到理想的分类效果。在实际的应用中,少数类数据的分类是非常重要的,如医学诊断、风险管理等。因此,研究非平衡数据分类问题是非常有意义的。本文研究的是两类非平衡数据分类问题。主要分为以下三部分工作:首先,提出了一种基于代价敏感的Ada Boostv算法。该算法在已有的Ada Boostv算法的基础上,做了进一步改进以处理非平衡数据分类问题。在样本权重中引入一种自适应代价敏感函数,使得分类器更加关注少数类样本。根据样本权重公式以及Ada Boostv算法关于最优间隔的分类误差率上界,推导出一种新的基分类器权重策略,该策略充分考虑了非平衡数据分类问题以及最优间隔。为了进一步处理非平衡分类问题,该算法采用改进的SVM模型,求解方法为SVRG方法以提高算法的收敛速度。其次,提出了一种基于欠采样的Ada Boostv算法。该算法同样在已有的Ada Boostv算法的基础上,采用了两种基于邻域的欠采样方法用于处理非平衡数据的类重叠问题。第一种欠采样方法即共同近邻搜索欠采样方法,该方法适用于少数类样本的数据密度大于等于多数类样本时,多数类样本为负类样本,少数类样本为正类样本。其主要思想是寻找任意两个正类样本的共同负近邻,将其视为重叠的负类样本删除。第二种欠采样方法即递归搜索欠采样方法。该方法是在第一种欠采样方法的基础上进一步删除多数类样本,适用于少数类样本的数据密度远远小于多数类样本的情况。为了进一步处理非平衡数据分类问题,该算法采用改进的SVM优化模型,求解方法为SVRG方法。最后,提出了一种基于代价敏感的惩罚Ada Boost算法。该算法在已有的基于间隔分布的惩罚Ada Boost算法的基础上作了进一步改进以处理非平衡数据分类问题。该算法在其样本权重中引入一种新的自适应代价敏感函数,该函数考虑了样本类别、样本的分类错误率以及噪声样本的影响。为了进一步处理非平衡数据分类问题,该算法仍然采用改进的SVM优化模型,求解方法为SVRG方法。