文本分类是数据挖掘领域的热点问题,但在实际应用中,会出现一些类中的文本很多,而另外一些类中的文本相对较少,不同类别数据集规模之间出现明显的倾斜情况,其中,文本分类器就是要预测携带很重要信息的少数类。由于不平衡数据集中少数类表达不充分,而多数类信息占绝对优势地位,造成传统文本分类器在整个不平衡数据集上直接训练时,分类边界偏置于多数类。传统的文本分类算法对于不平衡数据中的少数类识别率比较低,如何有效的提高少数类的分类准确率成为机器学习和数据挖掘领域急需解决的问题。不平衡文本数据集分类过程包括文本分词、去停用词、降维、文本表示、文本分类算法、分类器评价这几个步骤。提高不平衡集文本分类器准确率的方法有基于样本空间的改造、文本分类算法的改进、特征选择算法的改进。本文主要工作及创新:(1)在特征选择算法方面,信息增益(Information Gain)应用比较广泛且效果比较好,但是面对不平衡数据集,无法直接解决少数类的特征被淹没的问题,因此本文基于信息增益特征选择算法和特征词权重计算算法(Term Frequency–Inverse Document Frequency),提出TF-IG的特征选择算法,优先选入区分少数类别的特征。(2)在文本分类算法方面,现有的研究利用朴素贝叶斯方法解决不平衡文本数据集的多类别分类问题效果显著。因此,本文提出了基于Good-Turing与加权补集的多项式朴素贝叶斯文本分类算法,使用多项式朴素贝叶斯文本分类算法对不平衡文本数据集分类时,需要计算特征词在指定类别下的概率。由于文本空间的稀疏,会出现特征词为零概率的情况。本文提出使用Good-Turing算法平滑多项式朴素贝叶斯模型的词频,避免零概率的出现;利用当前类别补集的特征来表示当前类别的特征,解决训练集中各个类别的样本分布不均匀时,分类器容易倾向于大类别而忽略小类别的问题。