有限混合模型是用来处理来自几个未知的同质总体的变量之间关系的一种统计工具,它是由几个分布加权混合而成的.有限混合模型也被称作无监督学习模型,在聚类分析、数值分类等方面有着广泛的应用.有限混合回归模型是有限混合模型的进一步推广,随着现实生活中高维数据的不断出现,有限混合回归模型中的变量选择问题逐渐成为统计推断研究的热点问题.有限混合回归模型下的变量选择问题在统计建模中经常遇到,但大部分都是假设回归误差为正态分布,而正态分布在处理噪音数据和偏斜数据时是不合适的.鉴于此,本文主要在厚尾数据、偏斜数据等复杂数据下对有限混合回归模型中的稳健参数估计问题、变量选择问题进行系统地研究.更进一步,我们还考虑了对混合比例进行建模,从而将有限混合回归模型推广到有限混合专家回归模型,并提出一种新的稳健参数估计方法.具体地讲,本文所开展的研究工作如下:针对厚尾数据下的有限混合回归模型,基于t分布考虑了一种稳健的变量选择方法.采用基于惩罚似然的变量选择方法对均值回归模型中参数部分解释变量进行变量选择,该方法不仅能选择出均值回归模型中参数部分重要的解释变量,而且在对均值模型中参数部分进行估计时对异常值有较好的稳健性.进一步,在选择合适的调整参数的情况下,证明了模型中的极大惩罚似然估计值具有相合性和神谕性质.最后通过模拟研究和实例分析,研究了所提出方法的有限样本性质,结果表明所提出的变量选择方法是可行且有效的.针对偏斜数据,研究了偏正态分布下有限混合回归模型的变量选择问题.采用基于惩罚似然的变量选择方法对均值回归模型中参数部分解释变量进行变量选择,提出的变量选择方法能够将均值回归模型参数部分中不重要的解释变量从模型中剔除,而且研究发现,当偏度参数取不同的值时,该变量选择过程的表现没有显著的变化.进一步,在选择合适的调整参数的情况下,得到了模型中参数估计值的渐近性质.最后,该方法同时用来进行了模拟研究和实例分析,结果表明提出的变量选择方法是有效的.针对皮尔逊Ⅶ型分布下的有限混合专家回归模型,主要研究了一种新的参数估计方法.采用改进的EM算法,在对数似然函数的基础上对其增加一个混合比例模型中回归系数的二范数惩罚,从而使参数估计结果表现出较好的性质.更进一步,证明了混合比例模型中参数估计值不仅具有相合性,而且在有限样本中也表现出很好的估计结果.此外,该方法对均值回归模型中参数部分的估计相对于传统的估计方法具有较好的稳健性.最后,该方法同时用来进行了模拟研究和实例分析,结果表明提出的变量选择方法是有效的.