癌症是全球范围内致人死亡的重要原因之一,其特点是由基因突变导致细胞异常增殖和失控。作为一种十分复杂的异质性疾病,癌症的诊断传统上主要基于组织病理学和临床特征,因此需要人工检查和临床医生精湛的专业知识,难以统一实施。尽管这些癌症诊断结果对病人的预后价值无可争议,但是由于缺乏明确的分子基础数据,其在预测抗癌药物疗效方面的效果还存在一定的提升空间。为了可以促进患者的后续治疗和个性化管理,癌症亚型的诊断和预后就成为了癌症研究的必要条件。然而,基于分子特征的癌症诊断在解释一些肿瘤异质性上存在困难,难以统一实施进而实现患者的个性化治疗。随着基因测序技术的进一步发展,基于全转录组的癌症亚型分析逐渐展示了其在剖析肿瘤异质性任务中的潜力。基因测序技术的快速发展,使得人们对基因的表达变化在癌症中的影响有了进一步的认识。基因组测序技术提供大量的高通量基因表达数据,为采用机器学习去挖掘基因表达数据提供了数据基础。机器学习工具可以从复杂数据集中挖掘其关键特征的能力为其在癌症研究中扮演重要角色提供了可能,这促使了生物信息学领域的研究人员不留余力的研究机器学习在癌症中的应用,致力于构建一个计算机机器学习模型去拟合生物数据,提供基于计算机数据挖掘技术的一些全新的生物学见解。近年来,许多基于深度学习的癌症诊断框架已经被提出,用以从高通量基因表达数据中识别癌症亚型。癌症分子亚型鉴定在患者的个体化治疗中起着关键作用。然而,现有的方法存在着数据集样本数量少、数据特征维数高、计算方法表现力不佳、以及模型训练困难等缺陷。为了解决这些问题,本课题结合了基因测序、计算机科学、深度学习、进化计算等相关技术,针对高通量基因表达数据提出了一种全新的计算方法识别癌症亚型。本文的主要贡献如下:（1）提出了一个基于癌症亚型特异性基因的深度学习模型去识别癌症亚型。该模型首先通过计算亚型特异性基因进而将高通量基因表达矩阵进行去噪,降低其特征空间维度,便于深度学习模型的训练过程快速收敛。此外,针对癌症亚型特异性基因表达矩阵数据构建了一个特定的深度学习模型去拟合癌症数据,诊断癌症亚型。实验结果显示,本文提出的这个模型可以在大肠癌上展现其优秀的性能。（2）上面提出的癌症亚型深度学习诊断模型的性能高度依赖于其神经网络架构,模型优化调整通常是一个成本较高的、过程较长的过程。为了完善癌症亚型深度学习诊断模型,降低模型设计成本,进一步地,本文提出了一个自然启发式自动深度学习机,用以从基因表达数据中诊断出癌症亚型。本文提出的自动深度学习机采用启发式群体智能算法之一的蚁群算法进行神经网络架构搜索寻优,在其搜索空间可以自动寻找在癌症诊断问题上的最优深度学习模型架构。实验结果表明,本文提出的自动深度学习机不仅可以在大肠癌数据上获得十分出色的诊断能力,在其他不同平台数据的癌症、不同类别的癌症上面都可以提供优秀的鉴别能力。（3）为了验证本文提出框架在癌症诊断中的作用,本文还对这两种癌症亚型诊断模型进行了生物学分析,提出了一些识别癌症亚型的生物学见解。实验结果显示,本文提出的这两种框架都可以优选出癌症亚型的关键性基因,可以学习到不同癌症亚型之间潜在于基因表达数据中的差异。