特征选择的过程就是从原始特征集中挑选出使特征评价标准函数值最大的特征,并生成最优特征子集。特征选择一直是模式识别以及数据挖掘等领域中的关键问题。就分类问题而言,对样本的所属类别起到决定性作用的是样本中包含的特征向量。其中样本的完整程度、特征与特征之间的冗余程度以及特征与类标签之间的相关性都对学习模型的分类性能有着深远的影响。大量的无关或冗余特征的存在不仅降低了学习模型的分类能力,而且还会更加耗时。特征选择是为了筛选出那些与类标签的相关性最强,并且可以提供更多新的分类信息的特征,同时剔除与分类无关或者不能提供新的分类信息的冗余特征。在模式识别领域中采用特征选择降维技术,不仅能够快速有效地选择出对分类判别有用的特征,而且还可以极大地优化分类模型的架构并提高分类性能。本论文首先具体介绍了基于互信息的动态特征选择算法用到的信息理论相关知识。其次针对特征选择算法过程中算法复杂度高、分类模型复杂以及最优子集中包含的特征个数难以确定等问题进行分析研究,最后提出了两种新的基于互信息的动态特征选择算法。(1)提出了一种基于最小冗余的动态特征选择算法—MRIDFS算法。经过对DCSF分类算法的评价指标研究发现,该算法没有对类内冗余和类外冗余进行区分,从而忽略了类外冗余对算法分类性能的影响,进而导致对于冗余信息的计算不够精确。基于此发现,为了使分类算法能在精确的描述特征与类标签之间相关性的同时,能够更精确的描述特征间存在的冗余性。MRIDFS通过特征相关冗余相对比来动态调整类外冗余的重要程度,由12个标准数据集上的实验结果可知,MRIDFS能对特征空间中存在的冗余特征进行更加有效的度量与剔除,可以有效地提高分类性能。(2)提出了基于动态权重的优化条件互信息的特征选择算法—DOMCMI算法。所有特征选择算法都基于一定的数学假设,DOMCMI采取了比现有算法更弱的数学假设来优化条件互信息的下限,这样的处理可以很好的将无关特征与冗余特征进行区分,使分类模型避免选择无关特征。在此基础上,DOMCMI算法考虑到候选特征与已选特征之间可能存在的互补性,这些互补特征的选择会带来更多新的分类信息,所以DOMCMI算法对候选特征赋予了动态权重来不断调整候选特征的重要程度。由12个标准数据集上的实验结果可知,动态权重的引入可以有效地提高分类性能。