基于回归树的充分降维方法研究

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:Ivy1234
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据时代的到来使人们面对的数据越来越复杂,充分降维理论对于研究这种复杂数据有着重要的意义。在响应变量多维时,传统的充分降维理论往往会面临许多难题。本文主要研究基于回归树的充分降维方法,在响应变量多维的情况下巧妙地解决了维数灾难的问题。响应变量一维时,传统的方法通常会采用切片的方法对响应变量进行划分。但是随着维数的升高,这种切片的方法会导致切分出的许多切片内部没有任何样本点。而回归树的方法可以对多维空间进行划分,叶子结点的值正好是空间划分后的均值。基于这一思想,本文提出了基于回归树的充分降维方法。这里的回归树模型可以是梯度提升树,随机森林,Xgboost等。对于SIR、SAVE、DR方法,本文给出了估计核矩阵的方法。最后,本文通过大量的模拟与实例分析,验证了该方法在响应变量多维时的有效性。与现有的方法相比,该方法在响应变量高维时,有一定的优势。无论是线性还是非线性模型,在有一定程度噪声的情况下,本文的方法都可以较好的估计出降维方向。在样本量比较少时,随机森林的效果较好。在样本量比较大时,梯度提升树、随机森林、Xgboost的表现相当。由于集成学习模型往往会有较多的超参数,对于超参数的设置仍是缺乏理论依据的,但一般使用默认的参数便能取得不错的效果。本文还利用集成学习模型对于缺失值的处理办法,将其用到了充分降维领域,分析了响应变量有缺失值时的充分降维效果,利用含缺失值的样本信息后,降维效果显著好于丢弃这些含缺失值的样本。
其他文献
城市化是一个曲折反复的渐进过程,而非一次突然的转变,简单的一次性迁徙(桑德斯)。随着城市发展的加速,我国出现了迄今为止世界上最大的人口迁移浪潮,流动人口的聚集地从边缘
进入经济,科技,文化全球化的大数据时代,复杂网络与非线性时间序列的应用研究越来越受到关注,例如流行病传播,大脑功能网络,气候干旱事件以及金融股票波动等,时间序列的分析方法可以为我们提供新颖的思考与探索方向。目前,传统的研究非线性时间序列的方法受到复杂网络研究的影响而得到了快速的发展,然而由于实际研究中序列长度和噪声的影响,极大限制了时间序列网络方法的广泛应用。本文着眼于气候干旱极端事件的时间序列,
设施蔬菜地过量施肥和长期连作会造成土壤退化,严重影响了蔬菜产业的可持续发展。本实验以福建福清地区连续种植尖椒5年存在连作障碍的土壤为研究对象,以不同比例的水稻秸秆和生物质炭(BC,450°C热解制备)作为修复材料,采用强还原土壤灭菌方法(Reductive Soil Disinfestation,RSD)修复退化蔬菜地土壤,探讨该修复方法对土壤基本性质、土壤微生物群落结构以及温室气体排放通量的影响
本文利用代数Morse理论计算了秩一的多项式积分微分代数的Hochschild上同调群.
从古至今,在中国,“圈子”始终是一个极其重要的文化现象。“圈子”的本质是非正式组织在中国情境下的一种结构或功能上的表现。“圈子”是由具有相同利益或相同成分的个体因
用水定额是指在一定时期内,生产单位产品、建成单位建筑面积或提供单位人数服务所需合理的取水量。用水定额体系涉及农作物、工业产品、生活服务业等方面,是覆盖节水目标控制、规划设计、评价优先、计量计算的完整标准体系。用水定额为政府精细化用水管理提供指标依据,为企业生产工艺优化升级、增效节水减排提供标准指导,为人们加强节约用水、循环用水意识提供理论依据。用水定额可以作为节水优先实施的标准,作为约束用水户用水
为满足国家经济社会发展的需求,在水利水电工程、交通建设、矿山与能源开采以及国防工程等基础设施领域,越来越多的项目开发至地下千米的深处,深部地下工程中的高地应力和高地下水等复杂地质赋存环境,经常会造成深部地下空间出现突水突泥、塌方等灾害,导致巨大的经济损失和大量施工作业人员的死伤。揭示清楚深部地下工程的灾变演化机理对于确保深部工程安全施工与运行稳定意义重大。对于高地应力和高渗透压耦合条件下深部工程的
近年来,区域性水资源短缺严重制约了灌溉农业的可持续发展,而咸水灌溉是缓解农业水资源紧张的有效途径之一。由于过度的抽取地下水,河北黑龙港地区已成为我国最严重的地下水“漏斗”区,该区域农业灌溉可利用水资源量逐年减少,然而该区域地下咸水和微咸水资源丰富,如果合理利用于农业灌溉,可以大幅减缓因水资源短缺对农业可持续发展带来的冲击。农田是温室气体重要排放源之一,开展农田温室气体排放相关研究,对于实现农业单元
抗生素不科学地使用使得细菌耐药性和药物残留等问题日益突出,严重危害养殖业健康发展和人类食品安全,研发安全有效的抗生素的替代品已刻不容缓。枯草芽胞杆菌广泛存在水体、
现代经济社会的发展,时代的变迁,各国文化思想的交流与融合,在继承传统文化的基础之上,当代新工笔人物画兼收并蓄,呈现出新的繁荣态势,为这一古老的画种注入了勃勃生机,涌现出一大批优秀的创作者与极具时代特色的优秀作品。本文探析了当代新工笔人物画审美内涵的发展变化,归纳了当代新工笔人物画的风格特点,对当代新工笔人物画的持续发展提出自己的思考。