随着现代社会的发展,癌症的病发率越来越高。如何在癌症早期对癌症做出快速有效的诊断,提高患者的生存率成为一个极待解决的社会问题。高通量基因测序、DNA微阵列等技术的快速发展使得基因表达数据可以被大量获取,利用基因表达数据对癌症进行分析诊断成为了一种新兴的诊疗手段。然而,一个基因芯片上往往具有成千上万的基因,同时由于基因检测的价格昂贵且检测时基因数据易受噪声影响,可获得的有效病例样本相对较少,造成了基因表达数据具有高维度、小样本的特点,导致了无法避免的维度诅咒问题。此外,由于发生癌变的基因往往只有很少的部分,样本中大部分是与癌症无关的冗余基因。基因表达数据的这些特点使得直接利用其对癌症进行分类识别效率低且分类精度不理想,因此,如何从海量的基因表达数据中筛选出与癌症分类识别相关的基因是基因表达数据分析和处理的一个关键问题。针对传统的基因特征选择方法复杂度高,分类效果较差等问题,本文提出了两种降维算法对基因表达数据进行降维,以提取与癌症相关的基因,筛选出分类能力强的基因,并在多个真实基因数据集上进行仿真实验,验证了本文算法的有效性。本文的主要工作如下:（1）针对现有基因特征选择算法较少考虑样本（病人/正常人）之间及基因之间的相关性,不能有效去除冗余等问题,提出了一种基于图模型和图上平滑性的基因选择算法。通过将样本（病人/正常人）建模为图的顶点,将基因数据建模为图信号,构建了几种基因选择图;利用图拉普拉斯矩阵,选择非光滑度指标最高且可分布计算的图信号,确定出数量较少的分类能力强的基因,有利于快速实现基因表达数据的降维。最后,在真实数据集上的数值实验表明,提出的方法比现有方法具有更强的性能。（2）为了进一步捕获基因数据之间的相关性,提出了一种基于C3NET和图滤波器的基因特征选择算法。首先,为了获得基因之间的调控关系,利用C3NET（Conservative causal core）推断出基因表达数据的基因调控网络;然后,将基因表达数据中的基因建模为图上节点,每个基因的基因数据构建为图信号,将得到的基因调控网络建模为邻接矩阵,计算其图拉普拉斯矩阵和图傅里叶变换,并且提出了一种基于图傅里叶变换的基因分类能力的评估方法,计算每个基因的分类能力;最后,设计了高通图滤波器对基因数据进行滤波,筛选出滤波后分类能力高的基因。仿真实验表明,与现有的基因选择算法相比,本文算法筛选出的基因分类能力更高,在不同的分类器中均能保持较高的分类准确率。