回归模型是任务学习中很重要的一种模型。传统的回归模型一般基于正态分布假设。然而,当数据中的噪声来源不是高斯分布时,正态分布的假设显然是不充分的,而且高斯分布对数据中的异常值也很敏感。基于混合模型的有限混合分布可以在一定程度上缓解由分布假设不正确引起的问题。例如混合高斯分布在回归、聚类、去噪和图像分割等模式识别领域有很多应用。T分布是一种重尾分布,因此可以降低异常值的影响从而得到鲁棒的模型。由于混合分布的这个特点,本文研究了基于混合分布的回归模型统计学习方法。本文主体工作包括:第一章主要叙述了混合分布及其国内外研究现状,非线性分类模型,非线性回归模型和处理多任务问题的多任务回归模型。以及混合分布应用于非线性回归模型的研究现状和存在的不足。最后介绍了基于多模态数据的阿尔兹海默症分类预测研究。第二章建立了基于核方法的非线性分类模型,结合混合高斯分布对噪声及异常值建模。针对阿尔兹海默症的70个样本数据具有多模态的特点,将其与核方法的思想结合。通过将各个模态的数据线性加权结合的方法得到含有多个模态信息的混合核。然后用基于混合高斯的稳健非线性分类模型对混合核进行处理。实验结果表明,模型不仅能够很好的处理多模态数据,而且对噪声具有很好的识别性,从而较大程度地提高分类效果。第三章研究非线性回归问题,我们提出了一个基于混合T分布的鲁棒非线性回归模型。该模型不仅可以降低噪声和异常值的干扰,而且可以快速地学习出模型的非线性结构。在模型建立过程中,通过对潜变量的引入使得模型具有一个层次结构,这样的好处是不仅可以简化推断过程,而且层次结构也可以方便我们分析原理,从而本质上理解混合T分布相比于混合高斯模型的优点。在参数估计阶段,我们建立了一个EM算法和拉格朗日乘子法相结合的优化算法迭代地求解参模型的惩罚似然函数。第四章将单任务回归模型使用任务学习推广到多任务领域。在多任务邻域,我们可以共同学习多个任务的参数,从而达到信息共享的效果。而通过在任务中增加惩罚的方法,可以使得模型性能得到一定程度的提升。模拟和实例数据中的结果都可以验证多任务模型的性能。综上所述,混合分布在实际应用中具有重要的意义。模拟和实例分析表明,基于混合分布的分类和回归模型对复杂噪声具有更稳定的效果。而将单任务模型推广到多任务模型可以有效利用相似任务之间的信息。