朴素贝叶斯（naive Bayes,NB）是一种经典的机器学习方法,具有优异的分类精确度以及对噪声的稳健性。朴素贝叶斯经典算法基于两大理论,其一是贝叶斯定理,即后验概率依据先验概率和联合概率而得出;其二是特征条件独立的假设,即假设特征之间是相互独立的,联合概率的计算依据这一假设由特征的条件概率连乘而得。但是,由于其基于特征条件独立的强假设在实际应用中是不可能成立的,因此在一定程度上,限制了朴素贝叶斯模型的拓展应用。学者们为了削弱这一假设,提出了许多朴素贝叶斯的改进方法,大致可以分为三个方向:优化贝叶斯网络结构、对特征进行选择或者加权以及对样本进行选择或者加权。其次,特征的条件概率依据特征的概率分布不同,其计算方式也不同。由于朴素贝叶斯算法最初多被应用于文本分类,且文本数据中的特征属于定性特征,因此关于特征概率分布的假设大都是单一的;对于数据中的定量变量,学者们倾向于采用将其离散化的处理方式。那么,对于数据中不同类型的特征,这种将定量数据离散化的做法会导致数据完整性的破坏,以至于对条件概率的学习不够准确。而后,有学者认为在小样本的情况下,对条件概率的学习是不够准确的,于是为了增加估计信息的可靠性,提出微调的朴素贝叶斯方法。这种改进方法的提出是基于文本分类的应用,通过调整条件概率来实现分类器性能的提升。因此,并不适用于调整定量特征对应的条件概率,于是本文提出了基于高斯分布的条件概率所适用的微调方法。基于此,为了拓展朴素贝叶斯模型的应用同时提高其泛化性能,本文提出了针对经典NB的改进方法——两阶段增强朴素贝叶斯分类器（Two-stage Reinforcement naive Bayesian Classifier,TRNB）。两阶段增强朴素贝叶斯分类器是基于多种分布的模型,对于定性特征假设服从多项分布,对于定量特征假设服从高斯分布。模型的训练在两阶段训练的大框架下进行:第一阶段对特征进行加权,通过互信息对特征进行精确排序,依次向特征子集中添加未被选择的特征并预测训练集获得分类均方误差,选择具有最小均方误差的特征子集为最优特征子集并学习特征加权的分类器;第二阶段对条件概率进行调整,通过第一阶段学习到的特征加权分类器对整体训练集进行预测,获得初始的条件概率以及误分类的样本集,在误分类的样本集中每轮迭代调整一个最有效样本的条件概率,直至整体训练集的分类精确度不再提高便结束迭代。最终,获得最优的条件概率并学习两阶段增强朴素贝叶斯分类器。两阶段增强朴素贝叶斯分类器在第一阶段对特征进行包装式加权达到了削弱特征条件独立的强假设,而且在第二阶段通过调整条件概率使得学习到的估计信息更加可靠,最终达到有效提升分类器性能的效果。本论文的实验部分是在33个UCI基准数据集上通过对比分类精确度以及运行时间来验证两阶段增强朴素贝叶斯分类器的泛化效果。我们发现,两阶段增强朴素贝叶斯分类器的平均分类精确度明显优于标准朴素贝叶斯方法、基于最小化均方误差特征加权的朴素贝叶斯方法、基于特征子集选择的朴素贝叶斯方法、基于相关性特征加权的朴素贝叶斯方法和微调的朴素贝叶斯方法。同时,我们又在两阶段增强的框架下,提出基于相关性特征加权的TRNB模型、基于最小化均方误差特征加权的TRNB模型,即在第一阶段基于过滤式、嵌入式的两种特征加权方法,通过比较分类精确度以及运行时间发现,本文提出的这种在第一阶段基于包装式特征加权的两阶段增强朴素贝叶斯分类器,其平均精确度提高的最明显。在实验的第三部分,我们又继续探讨基于不同样本量大小的情况下,所有模型的分类表现,我们发现两阶段增强朴素贝叶斯分类器在样本量较大时（大于500个样本）,其性能表现尤为优异。综合大量实验结果可以看出,两阶段增强朴素贝叶斯分类器的模型性能明显优于本论文中所有对比的算法模型。