双边移位投影孪生支持向量回归机的研究

来源 :江南大学 | 被引量 : 0次 | 上传用户:SK_flyfox
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
双边移位投影孪生支持向量回归机(Pair-shifted Projection Twin Support Vector Regression,PPTSVR)是一种高效的用于解决回归问题的数据预测算法。由于其在训练过程中仅需求解两个较小规模的二次规划问题,训练速度约为支持向量回归机的四倍,近年来逐渐成为机器学习领域的研究热点。但是,PPTSVR存在欠考虑不同位置样本对超平面构造的影响的问题,当样本中存在异常点时会削弱算法的拟合性能;此外,PPTSVR采用L2-范数度量样本点投影到投影中心的距离,在最小化目标函数的同时,会放大噪声或异常点的影响。本课题主要从提升PPTSVR的拟合性能和训练速度两个方面展开研究,主要研究成果如下:针对PPTSVR在训练阶段没有考虑不同位置样本对超平面构造的影响的问题,提出一种加权光滑双边移位投影孪生支持向量回归机(Weighted Smooth Pair-shifted Projection Twin Support Vector Regression,WSPPTSVR)。首先采用孤立森林的方法赋予每个样本相应的权值,通过赋予样本中异常点很小的权值,削弱其对超平面构造的影响。其次,为了直接在原空间中寻求最优超平面,引入正号函数,将有约束优化问题转化为无约束优化问题,并采用Sigmoid光滑函数对目标函数进行光滑处理,证明其任意阶可微且严格凸的特性,进而在原空间中采用牛顿迭代法进行求解。结果表明,WSPPTSVR能够有效地剔除样本中的异常点,提升算法的拟合性能。针对PPTSVR采用L2-范数度量距离会放大样本中潜在噪声或异常点对超平面构造的影响的问题,提出一种L1-范数损失双边移位投影孪生支持向量回归机(L1-norm Loss Based Pair-shifted Projection Twin Support Vector Regression,L1-PPTSVR)。首先采用L1-范数代替L2-范数度量样本点投影到投影中心的距离,减轻潜在噪声或异常点对超平面构造的影响。然后最小化基于L1-范数的损失寻找最优超平面,通过引入合适的松弛向量,避免核矩阵求逆并节省存储开销。结果表明,与现有的代表性回归算法相比,L1-PPTSVR的预测性能和抗干扰能力更佳。针对提出的L1-PPTSVR在训练大规模数据集时存在时间复杂度高的问题,提出一种改进的L1-范数损失双边移位投影孪生支持向量回归机(Improved L1-norm Loss Based Pair-shifted Projection Twin Support Vector Regression,IL1-PPTSVR)。首先采用密度相关量化方案稀疏化训练样本集,降低算法的时间复杂度。其次,由于密度相关量化方案的引入,IL1-PPTSVR中至少存在5个参数,针对多个参数选择问题,采用混沌布谷鸟算法对参数进行寻优,进一步提升算法的训练速度。结果表明,与L1-PPTSVR相比,IL1-PPTSVR在大规模数据集上的训练速度更快。
其他文献
中国是幽门螺杆菌(Helicobacter pylori,H.pylori)感染的高发地区,H.pylori对常用抗生素的耐药率高。初次治疗失败将导致耐药形势愈加严峻,增加再次治疗的难度。因此,初次治疗选择H.pylori高效根除方案至关重要。铋剂四联疗法因具有高效、安全、可提高耐药菌株的根除率的特点,已被作为我国一线H.pylori根除治疗的首选方法。临床医师应根据各地区患者抗生素耐药特点选择敏
期刊
作为一种较为成熟的无监督分析方法,聚类分析已经被广泛运用于数据挖掘、模式识别、图像分割等研究领域。但目前普遍存在的传统聚类方法大多仅基于单一视图数据进行研究,而在数据挖掘和分析的诸多实际应用场景中,各个独立视图数据之间具有互补信息以及一致信息的多视图现象已经广泛存在。此外,在数据爆炸的今天,如何更好的处理大规模高维数据也已成为一个亟需解决的问题。为此,本文着重于研究面向多视图情景的大规模数据的聚类
学位
高质量的绩效评价报告是实现评价结果应用的前提,如何突破PPP项目绩效评价的工作难点是提高评价报告质量的关键。文章以道县城乡环卫一体化PPP项目绩效评价为例,从绩效目标出发,分析不同阶段评价工作的重难点并提出具体、可行的解决方案,为提升PPP项目绩效评价的客观性、科学性提供技术支撑。
期刊
钛合金由于其比强度高、无磁性以及优良的高温机械性能等优点,其应用已深入到军工电子设备、宇航、医用仪器,以及微电子设备与机器控制系统(MEMS)等多个领域,是极为重要的工程材料。钛合金属于难加工材料,传统加工时易出现钛火、裂纹和刮伤等缺陷,难以满足MEMS设备等高精密仪器的表面质量需求。化学机械抛光是当前流行的超精密加工方式之一,其能够高效率的实现试件表面的超精密平坦化,本文在其基础上,引入超声波精
学位
目前,多自主体系统的一致性问题是控制理论界的一类热点问题,在监控监视、传感器网络、航天编队飞行等众多领域有着广泛的工程应用价值。一致性问题的控制目标是通过设计合适的控制算法,利用自主体间的局部信息交互保证各自主体的状态达成一致。本文研究的包含-聚集控制问题是一类特殊的多领导者一致性问题,其要求通过设计合适的控制算法使得全体跟随者能够进入全体领导者构成的凸包中,同时各跟随者的状态达成一致。因此,本文
学位
果实的生长监测以及收获时的产量估计需要大量人力,基于机器视觉的方法能够有效提高水果种植效率。二维图像信息有限,基于单幅的二维图像仅能够实现单一视角的水果识别。为了满足在三维空间中更加准确的水果识别与产量估计的要求,本课题将三维点云数据引入到水果识别方法中,利用点云配准算法融合植物三维信息,结合颜色特征及三维几何特征对果实进行识别,实现对整株植物的果实识别及产量估计。本文的研究内容如下:1.针对单幅
学位
不同于城市,农村经济发展较为落后,且基础设施不够健全,进而在饮水工程的标准化建设及管理方面存在诸多问题。文章先是介绍了农村饮水工程标准化建设及管理意义,随后又分别探讨了建设及管理策略。
期刊
随着能源清洁低碳转型的深入,风能这一绿色可再生能源受到世界各国的广泛关注。风电装机容量不断增大,风电机组结构也日益复杂,加之运行环境恶劣,一个局部故障可能发展为灾难性的故障,造成重大经济损失。功率变换器是风电机组的重要接口装置,保证了风电机组向电网馈入高质量电能,因此,有效实现功率变换器故障诊断和隔离(Fault Detection and Isolation,FDI)对确保系统安全运行、降低维护
学位
中职数学教学应注重技能培养,以服务专业课程为主导思想,以符合职业生涯发展为中心,从学生的专业学习要求和实际接受能力出发,改变现有的教学模式,才能从根本上改变当前中等职业教育中数学课堂教学的现状,适应职业教育发展的需要。这需要教师们有着专业的知识背景、教学视角和教育理念,因此,在教学中应注重在专业知识和实际应用之间建立联系,同时注重发展学生的创造力和实践能力,以培养出具备职场所需的实际技能和素质的学
期刊
本文从机房节能减排的发展现状及其面临的主要问题的基础认知上,对机房的节能减排标准化建设进行尝试性的探索,旨在为相关研究提供一些参考价值,并为我国的节能减排、环境保护作出一些贡献。
期刊