核学习方法是一类通过引入核函数,隐式地将输入空间映射到高维特征空间,将线性学习器拓展为非线性学习器的学习方法。核方法目前已在分类、回归、聚类等诸多领域得到运用,典型的核学习方法包括支持向量机、核主成分分析、核线性判别分析,核化K均值聚类等。通常而言,核方法要求使用的核函数满足Mercer条件,这样的核函数对应的核矩阵是半正定的,称为正定核,其隐式地定义了一个再生核希尔伯特空间作为特征空间。然而,在实际应用中有许多核满足实对称条件但不正定,这样的核称为不定核。不定核的研究有其必要性,目前已有一些不定核在某些任务上达到了更高的性能;在某些情况下半正定核将退化到不定核;对于一个给定的核,鉴别其Mercer条件可能具有很大的困难。因此,核学习的不定性研究拥有较高的学术和应用价值。然而,尽管不定核学习在一定程度上增加了核学习方法的灵活性和丰富程度,但在应对任务复杂、数据量大的情况时往往仍由于其“浅”结构导致灵活性不足从而达不到满意的性能要求。近年来,学者们逐渐认识到,从“深度”拓展模型往往能取到比拓展“宽度”更好的效果。因此,研究如何构建核学习方法的深度模型,对于进一步加强核方法的灵活性和表示能力有着重要意义。本文从提高核学习方法的灵活性和表示能力出发,对不定核学习和深度核学习方法展开了研究。本文的主要研究内容如下:1.针对不定核学习中存在的非凸性和无界性问题,本文引入了球面约束建立模型求解,利用Rademacher复杂度进行了泛化误差性能分析,并采用了迭代方法将解进行稀疏化。2.针对不定核学习能力仍不足的问题,本文通过随机傅里叶特征进行核学习深度模型的构造,采用梯度下降来求解问题,并对所提模型建立了复杂度分析。最后本文通过实验验证了相对其他模型,所提模型具有较优的性能。3.在应用上,本文基于核化最大均值差异对图像去噪进行了研究,提出了MMD-DGAN进行图像去噪,在不同数据集上达到了较优的水平。