论文部分内容阅读
近些年来,信息技术发展迅猛,互联网用户步入了一个崭新的时代,海量数据也为用户带来了前所未有的体验。虽然用户可以检索更多的信息,满足更广泛的需求,但科技的进步往往伴随着一些新问题的衍生,大量的原始数据是杂乱无章的,这为用户带来了很大的不便,所以文本分类技术应运而生。通过文本分类技术可以根据文本中包含的特征词将文本自动分类,在信息检索、自然语言处理等领域得到了广泛的应用。目前,已经有很多方法应用于文本分类,比如朴素贝叶斯、KNN、决策树、SVM等等,但如何选择高效精准的方法使得文本分类达到更好的效果是当下亟待解决的问题。本文主要围绕朴素贝叶斯算法进行研究,并提出了两种改进朴素贝叶斯算法:一种是基于泊松分布的加权朴素贝叶斯文本分类算法,另一种是基于特征深度加权的朴素贝叶斯树文本分类算法。本文进行的主要工作如下:(1)介绍了文本分类的研究背景和发展现状,阐述了文本分类的定义,详细介绍了文本分类的具体流程以及几种经典分类器的算法原理和优缺点。(2)提出了一种基于泊松分布的加权朴素贝叶斯文本分类算法,改进朴素贝叶斯算法在文本分类中精度不足的问题。首先将泊松随机变量引入朴素贝叶斯的推导过程,然后通过信息增益率对文本特征词进行加权处理,削弱了属性独立性假设对分类准确率的影响。最后在两组经典数据集20-newsgroups和搜狗新闻数据集的实验表明,该方法与KNN、SVM等其它几种算法相比在准确率、召回率、F1值上得到了很大的改善,在保证执行效率的同时提升了分类精度。(3)提出了一种基于特征深度加权的朴素贝叶斯文本分类算法,进一步改进朴素贝叶斯算法的文本分类准确率。通过将决策树算法和朴素贝叶斯算法结合的混合模型,充分利用了朴素贝叶斯在小数据集上分类表现更好的特点,首先构建决策树对大数据集进行逐层筛选,然后在决策树的叶子节点上针对少量数据构建朴素贝叶斯模型,并对朴素贝叶斯算法进行基于特征出现在决策树中深度的加权处理,既保证了数据的完整性,同时削弱了属性独立性假设的影响。最后在20-newsgroups和搜狗新闻数据集上的实验结果表明,该方法相比朴素贝叶斯、决策树、SVM等几种其它算法大大提升了文本分类准确率,且执行时间和朴素贝叶斯、决策树相关算法保持同等水平,验证了该方法的有效性。