相较于单个参数模型,有限混合模型能够更好地刻画来自多个子总体的异质性数据的分布特征。在很多实际问题中,混合模型的真实成分个数通常是未知的,从而给模型的统计推断带来困难。一般情况下,更容易得到混合模型成分个数的上界,但是基于这种扩大的模型进行参数估计存在一些问题,包括:参数缺乏可识别性、费希尔信息矩阵退化以及真实的模型参数位于参数空间的边界。针对这些问题,本文研究了混合模型参数估计的收敛速度以及成分个数的一致估计。除此之外,关于混合回归成分是超高维情况的研究较少。因此,文中将进一步研究成分个数未知情况下超高维混合回归模型的模型选择问题。在成分个数未知情况下,许多学者针对混合模型的参数估计问题进行了研究。Redner（1981）[1]和Feng and McCulloch（1996）[2]分别证明了极大似然估计的一致性,但均未给出具体收敛速度。Chen（1995）[3]在考虑了糟糕的情形后,提出最优的极小化极大收敛速度是n-1/4。Khalili and Chen（2007）[4]表示基于成分个数的一致估计,可以得到参数估计root-n的逐点收敛速度。在第二章中,本文着重考虑了没有真实成分个数信息时,如何保证参数估计的收敛速度,并提出了一种惩罚似然方法,该方法对不同成分中成分参数间的距离施加惩罚。文中证明了该惩罚估计能够落入参数空间中不可识别子集的非退化区域,从而保证了费希尔信息矩阵沿着特定方向的正定性。同时,文中证明了该估计能够以root-n的逐点收敛速度收敛到真实参数空间的经济子集,这与传统的极大似然估计收敛速度一致。此外,文中提出了改进的EM算法用于最大化惩罚对数似然函数,并通过泊松混合和正态混合四个数值模拟展示了估计方法在有限样本情况下的估计效果。虽然,第二章提出的惩罚似然方法能够保证冗余成分的混合比例估计值很小,但仍然无法实现模型的成分选择。由于该惩罚估计收敛于真实参数空间的经济子集,本文在此基础上,进一步对混合比例施加惩罚,确保冗余成分的混合比例能够被一致地估计为零。此外,文中还研究了为实现混合比例稀疏估计,惩罚函数需要满足的条件。根据得到的稀疏条件,文中揭示了一些常用的惩罚函数之间的差异,并解释了有的惩罚函数（如:Lasso和SCAD）无法得到令人满意的结果的原因。混合模型成分选择的一致性以及参数估计的渐近正态性均在文中给出。此外,针对所提出的惩罚似然方法,文中给出了相应的EM算法,并证明其具有上升性质。数值模拟和实证分析进一步展示了惩罚方法的有效性。在第四章中,我们将模型选择问题拓展到了超高维混合回归模型。针对此问题,本文提出了一种惩罚估计方法-两步过程。首先,在模型成分个数未知的情况下进行成分选择。然后,基于第一步的成分个数估计结果进行参数估计,将变量选择应用于超高维回归模型。同样地,文中给出了特定的EM算法用于最大化惩罚对数似然函数。我们通过数值模拟展示惩罚方法的有效性。此外,关于净资产收益率（ROE）预测的实证研究也充分展示了模型在有限样本下的估计效果。