本文我们扩展了三类多元统计模型,并相应地给出了基于极大似然估计的EM算法。在第二章中,我们根据多元广义线性模型和最大随机效用准则的概率选择理论分别对有限混合因子分析模型中的公共因子和分类变量进行扩展,提出了扩展的有限混合因子分析模型。EM算法用于估计扩展模型的参数,对有些参数估计的M步采用了Newton-Raphson迭代算法,最后给出了数值模拟和实例。为了分析相关的无次序分类数据,本文第三章通过引入因子分析和协变量提出了多项Probit潜在变量模型,并讨论了模型的识别性。一些很有用的多项Probit模型是所提出模型的特例。MCECM算法用于估计提出模型的参数,并给出了数值模拟。模拟结果显示其算法对提出的模型有效可行。在变系数广义线性随机效应模型和有限混合模型的基础上,本文第四章提出了有限混合变系数广义线性随机效应模型。该模型可用于分析来自非齐次性总体且随时间变化的纵向数据。同时,我们也给出了参数估计的MCEM算法和模拟例子。