基于Lq惩罚经验似然的变量选择

来源 :湖南师范大学 | 被引量 : 0次 | 上传用户:wgguihuake
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
众所周知,变量选择是统计建模和知识发现领域的非常重要的课题之一.随着高维数据分析需求的兴起,使得这一问题的研究显得更加突出而具有意义,所谓变量选择,是指在所有影响响应变量的各解释变量中,剔除对响应变量影响较小的一些变量,选择对出一组最优的解释变量的过程,多年来,为了能够选择出重要的解释变量,发展了许许多多的变量选择的方法。常用的传统变量选择方法有逐步回归、最优子集回归、岭回归(ridge)等,许多研究表明,传统的变量选择方法总是由于某些客观条件的限制,诸如P的维数很大等而表现的很吃力。基于惩罚函数类型方法的出现在很大程度上使得变量选择方法有了较大的发展,开创了变量选择方法的新景象.最近的文章当中,基于损失函数结合惩罚函数的变量选择方法受到越来越多的关注。Frank and Friedman(1993)提出的所谓桥回归(bridge),Tibshirani(1996,1997)在线性模型的假设下,提出了Lasso方法,且证明了Lasso具有子集选择方法的易解释性和岭回归(ridge regression)的稳定性.本文在线性模型假定下,基于损失函数加上惩罚函数类型的变量选择方法,结合近些年发展起来的经验似然方法和惩罚方法各自的优点,选取经验似然作为损失函数,选取Lq,0<q<1作为惩罚函数,发展了基于惩罚经验似然(PEL)的变量选择方法,给出了应用于变量选择的惩罚经验似然函数相关概念及惩罚经验似然函数构造推导过程。得到了Lq,0<q<1假定下,惩罚经验似然的变量选择的相合性和非零参数估计的渐近正态性,并且给出了相关定理的证明。给出了基于Lq,0<q<1惩罚函数的惩罚经验似然(PEL)的变量选择算法。而且本文采用数值模拟比较了本文的基于惩罚经验似然的变量选择方法(PEL)和桥回归(bridge)的表现,在本文提到的几种评价指标下,PEL变量选择方法相比较而言也具有一定的优势,而且在样本容量增加时,PEL方法效果得到更好的效果.   本文组织结构如下:   第一章主要介绍了变量选择的意义和重要性以及发展现状、经验似然的优点并且介绍了常用的变量选择方法,经验似然的概述及其发展现状。第二章在线性模型假设下结合Lq,0<q<1惩罚函数,给出了应用于变量选择的惩罚经验似然函数相关概念及惩罚经验似然函数构造推导过程。第三章得到了惩罚经验似然的变量选择定理,即变量选择的相合性和非零参数估计的渐近正态性,并且给出了相关定理的证明。第四章给出了基于Lq,0<q<1惩罚函数的惩罚最小二乘变量选择和惩罚经验似然(PEL)的变量选择算法及调整参数的选择准则.第五章采用数值模拟,借助SAS软件证实本文主要结果的正确性,特别是在数值方面给出了一些模拟结果并且讲述了本文提出的基于惩罚经验似然(PEL)的变量选择方法较之其它方法的优点.
其他文献
风险理论是精算数学的核心内容,因此这也引起越来越多从事经济与保险行业的研究人员的关注.众所周之,经典的风险模型及其推广模型主要考虑保费收入是连续的.然而,保费连续性在风险模型的应用中有很大的局限性.为了使模型更加符合保险公司的实际运作,很多学者将随机收入风险模型引入到风险理论中.近些年来,保费的随机化成为风险模型研究的热点课题.本文主要考虑了一类具有随机收入风险模型的破产相关问题,并得到了一些相关
功能磁共振成像是一种无创伤、无侵入的技术。由于这一特性,它越来越多的被应用于精神疾病的研究。本文希望通过分析脑功能连接网络考察精神分裂症的遗传特性。依照ALL模板将
学位
设K是一个连通紧集,设(C)K=Uj(W)j是连通分支分解,我们知道(W)j是单连通的,我们用(W)0。表示无界分支.假设μ是K上的有限Borel测度,f是定义在K上的复值函数,且适合f∈L∞(K,dμ).假设
在分析和筛选我们前期建立的地黄转录组文库、抑制消减杂交文库及地黄相关EST文库基础上,利用拼接、延伸及PCR方法,成功克隆到一个全长2681bp的Ca2+-ATPase基因,含有2007bp完
学位
以“三个代表”重要思想为指导,对利益和利益关系问题进行比较系统深入的研究,对于在我国社会深刻变革、党和国家事业快速发展的进程中,妥善处理各方面的利益关系,具有极为重
在分歧理论中有一个非常有意义的研究课题是寻找等变分歧问题在一定等价群下的标准形式,并给出它们的分类和识别.而分类和识别必须分析分歧问题在该等价群作用下的轨道切空间
本学位论文主要利用全局分支定理,不动点指数理论,逼近原理等研究了非线性四阶微分方程边值问题,在一定条件下的解的存在性或正解的存在与多重性.全文由如下五部分组成.   第
为了理解共形场论中手征场的算子乘积展开式(OPE)的代数结构,从Belavin,Borcherds等人的论文开始,数学家们已经做了大量的工作并取得了一些很重要的成果。其中共形代数便是描述O