特征选择一直是模式识别领域的研究热点之一。模式识别是对数据进行分类,分类的过程可以在原始数据空间中完成,也可以对原始数据进行变换,将数据映射到更能反映分类本质的特征空间中进行。在特征空间中得到的分类模型无论是模型的训练时间还是模型的可解释性都优于直接从原始数据得到的分类模型。所以特征选择的研究是模式识别的一项重要任务。论文详细介绍了基于互信息的过滤式特征选择算法的基本概念,在分析了已有的特征选择算法的优缺点之后,提出了两种新的特征选择算法。(1)提出了一种基于最小条件相关和最小条件冗余的特征选择算法-MCRMCR(Minimum Conditional Relevancy and Minimum Conditional Redundancy)算法。通过对RelaxFS(Feature Selection based on Relaxing Max-relevance and Min-redundancy)算法的分析发现,RelaxFS算法在特征选择过程中,使用所有的已选特征对新特征进行评价,这样会在计算特征与类的相关性和特征与已选特征集合的冗余性过程中耗费大量的时间。因此为了更精确地刻画特征之间的相关性和冗余性,减少产生不必要的冗余信息,MCRMCR算法从已选特征集合中仅选择有限个特征对新的特征进行评价。实验表明,MCRMCR算法可以有效地提高分类器的分类准确率。(2)提出了WCFR(Weight Composition of Feature Relevancy)算法。传统的基于互信息的特征选择算法大多是在冗余项引入一个合适的权重,以此调节相关度和冗余度。WCFR算法引入了标准差作为权重,同时作用于相关项和冗余项。其目的是尽可能地使选择的特征与已选特征集合冗余度低些,且在给定已选特征集条件下与类高度相关。使用相关值和冗余值的离散程度分别权衡相关值和冗余值的重要程度。理论和实验证明WCFR算法可以有效地提高分类器的分类准确率。