传统的监督学习假设训练（源域）与测试（目标域）数据都来源于相同的联合概率分布。然而,在自然语言处理、计算机视觉等领域,训练数据常常来源于一个源域联合分布,而测试数据则来源于一个不同的目标域联合分布。由于存在联合分布（领域）之间的差异,简单地使用源域数据训练而来的分类或回归模型,在目标域数据上往往表现不佳。领域自适应的出现正是为了解决这个问题,使得预测模型在目标域有比较好的泛化性能。本文从概率分布适配的角度,对领域自适应进行了逐步深入的研究,包括它的无监督以及半监督两种典型的设定。本文的主要工作如下:1)协移自适应是基于协变量偏移假设的无监督领域自适应。针对协移自适应中的过度加权问题,提出了一个自适应加权结构风险最小化方法（Adaptively Weighted Structural Risk Minimization,AWSRM）。值得一提的是,协移自适应是基于协变量偏移假设的无监督领域自适应。在所提出的方法中,目标域预测模型和调整后的权重向量可以通过同时最小化预测模型的加权结构风险与权重向量的平方损失而学得。在多个回归和分类数据集上的系统性实验验证了所提方法相对于其他协移自适应算法的优越性。2)考虑到协变量偏移假设在无监督领域自适应问题中的局限性,本文首次引入了广义协变量偏移的假设。在该假设的基础上,本文运用一个分布自适应函数在子空间里调整源域分布,使其接近目标域分布,并同时在调整的源域联合分布上训练一个目标域分类器。具体地,本文提出了两个框架用于实现这一目的:嵌入式布雷格曼散度结构风险最小化框架（Bregman-divergence-embedded Structural Risk Minimization,BSRM）与联合结构风险最小化框架（Joint Structural Risk Minimization,JSRM）。进一步地,本文证明了在特定的条件下,从这两个框架中都可以导出凸优化问题。在模拟数据集和真实数据集上的实验表明,所提方法优于其他的对比算法。3)协移自适应和广义协移自适应算法解决的都是源域与目标域边际分布的差异性问题。为了进一步解决两个域的条件分布（标签分布）也存在差异性的问题,本文提出了一种直接联合分布适配方法（Direct Joint Distribution Matching,DJDM）,在总变异距离、KL散度、黑林格距离、卡方散度这几种f散度下,以线性或非线性的方式,直接地适配源域和目标域的联合概率分布。从黎曼几何的角度,本文将模型的求解问题形式化为格里斯曼流形上的优化问题。在若干个分类和回归数据集上的实验评估表明,所提的方法在统计意义上胜过已有的浅层领域自适应方法,并且在性能上可与深度方法媲美。4)提出了一种非对称联合分布适配（Asymmetric Joint Distribution Matching,AJDM）方法来解决半监督领域自适应问题。该方法在相对卡方散度下,利用一对映射矩阵来适配源域和目标域的联合概率分布。进一步地,本文还将所提的方法拓展成一种核化的方法,以更加灵活的方式对联合分布进行适配。从黎曼几何的角度,本文将学习映射矩阵的问题形式化为积流形上的优化问题。在文本和图像数据集上的实验表明,本章的方法优于现有的浅层和深度半监督领域自适应方法。