癌症作为全球第二大疾病,其发病和死亡例数逐年上升,威胁着人类的健康和生命安全,研究癌症的致病基因和不同亚型是有效防控癌症的重要措施。DNA微阵列技术的出现使研究人员能够同时分析数千个基因的表达水平。微阵列数据分析最重要的应用之一是癌症分类,但并不是所有的基因都与癌症的发生有关,大量的基因对于临床诊断是无关或冗余的,因此,若将所有的基因都用于基因表达数据的聚类或分类,可能会影响结果的准确率。微阵列基因表达数据分析的过程是找到信息丰富的基因并去除冗余和无关基因,但微阵列基因表达数据存在维数灾难、样本稀疏的问题,而且许多数据挖掘技术在处理高维数据时还会遇到计算复杂的问题,克服这些困难的方法之一是特征选择。本文针对传统的特征选择算法存在的一些问题,进行了以下研究。（1）传统的特征选择算法会忽略不同特征之间可能的相关性,并且没有很好地保留高维数据的局部流形信息和全局结构信息。针对这个问题,本文提出了基于评分函数的图正则低秩表示特征选择算法,在该方法中采用互信息来考虑特征的成对相关性;采用带图正则化的低秩表示方法来保留高维数据的流形信息和结构信息;采用评分函数评价特征的优劣,并选出特征子集用于聚类。最后分别在UCI数据集和基因表达数据集上进行了实验验证,并与现有的特征选择算法进行对比,通过准确率、归一化互信息值、收敛性来评价算法,实验结果表明,该方法所选特征子集表现较好,平均最高准确率和归一化互信息值可以达到86.7%,45.5%。（2）进化算法具有较强的搜索能力,可以在搜索空间中寻找最优的特征子集,其中粒子群优化算法因规则简单、容易实现被广泛应用,但它也有一定缺陷,比如容易停滞、陷入局部最优等。在特征选择的过程中需要优化多个目标函数,但使用传统的单峰多目标优化算法只能提供有限数量的帕累托最优解,导致可能会遗漏一些重要的特征子集。针对上述问题,本文提出了结合星形和环形拓扑粒子群的多模态多目标优化算法,在该算法中结合星形和环形拓扑结构可以兼顾粒子群在全局和局部的搜索,避免算法过早陷入局部最优;采用多模态多目标优化可以选出多个特征子集供决策者选择,并用所选出的特征子集进行分类。最后分别在UCI数据集和基因表达数据集上进行验证。实验结果表明,在多模态多目标环境下,结合了两种拓扑结构的粒子群算法比简单粒子群算法能找到更多的特征子集,且在不同数据集上都具有竞争性的分类结果。本文提出了两种改进的特征选择算法,并且首先在UCI数据集上验证本文所提方法的合理性、有效性,然后应用于肿瘤基因表达数据集,表现出了这两种算法在处理高维数据集时的优点。