最小二乘孪生支持向量回归机的研究

来源 :江南大学 | 被引量 : 0次 | 上传用户:piaobozaiwai
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
孪生支持向量回归机(Twin Support Vector Regression,TSVR)是机器学习领域中一种有效的数据预测方法。TSVR在训练数据的过程中,需要求解二次规划问题,因此在训练大规模数据时效率较低。最小二乘孪生支持向量回归机(Least Squares Twin Support Vector Regression,LSTSVR)将训练过程转换为求解两个线性方程组,极大地降低了计算复杂度。但是LSTSVR也存在诸多问题。首先,LSTSVR未能充分利用样本数据自身的结构信息,预测性能有待进一步提高;其次,LSTSVR利用了最小二乘方法,对异常值非常敏感;此外,LSTSVR的参数选择是借助经验法或网格寻优法,寻优效率不高。本课题研究将样本数据间的结构信息融入LSTSVR的目标函数中,抑制样本数据中可能存在的异常值对算法性能的影响,并进行参数优化,主要研究内容如下:针对LSTSVR未考虑输入样本间的结构信息问题,提出了一种最小二乘孪生投影支持向量回归机(Least Squares Twin Projection Support Vector Regression,LSTPSVR)。首先通过寻找一条合适的投影轴确定上下界函数,其次根据最小化样本集的投影方差确定投影轴,然后通过输入样本的经验方差及其经验相关系数计算得到样本集方差,这意味着引入了样本数据间的结构信息。实验结果表明,LSTPSVR能够有效地提高预测性能。为了解决样本中可能存在的异常值对LSTSVR的预测性能造成严重影响的问题,并考虑到间隔分布对训练模型泛化性能的重要性,利用孤立森林算法提出了一种最小二乘孪生间隔分布支持向量回归机(Isolation Forest-based Least Squares Twin Margin Distribution Support Vector Regression,IFLSTMDSVR)。首先根据孤立森林的异常分数机制确定每个样本数据的异常分数,然后将异常分数较高的样本点赋予较小的影响因子,用以削弱异常值对算法的影响。其次,为了提升算法的泛化性能,通过嵌入间隔分布信息的方法,将间隔均值和间隔方差整合到目标函数中。实验结果表明,IFLSTMDSVR能够有效地抑制异常值对预测性能的影响并提升泛化性能。参数选择与算法性能的优劣密切相关。灰狼优化算法具有收敛速度较快,结构简单等优点。针对IFLSTMDSVR中多个参数选择问题,利用灰狼优化算法优化IFLSTMDSVR的参数。灰狼优化算法将均方根误差或平均绝对误差作为适应度函数,通过位置更新机制,能够在有限次数内迭代得到参数的最优值。最后,将灰狼优化算法优化后的IFLSTMDSVR应用于青霉素发酵过程软测量。实验结果表明,所提出的方法能够在较短的时间内找到合适的参数,寻优效率较高,预测性能有所提升。
其他文献
考虑在不确定因素对工业机械臂轨迹跟踪控制的问题,将轨迹跟踪问题视作为对系统的约束,基于受约束动力学界Udwadia-Kalaba(UK)方程获取其所需跟踪的伺服控制力。当考虑不确定
在铜阳极板生产过程中,铜阳极板圆盘浇铸机在运行过程中对铜液造成的晃动影响铜阳极板的质量。因此,研究铜阳极板圆盘结构特性和伺服驱动控制系统对铜阳极板质量的提升具有现
由于静态破碎剂的主要原料成本低、来源广、施工简单,应用过程中无噪音、无飞石等优点十分明确,因此其应用广泛,对于某些破碎工程,尤其是一些局部破裂的工程,要求静态破碎剂
随着能源安全问题和环境问题的日益突出,节能减排成为内燃机发展的必然趋势。本文利用一台能够实现汽油进气道喷射、氢气/汽油缸内直喷的复合喷射汽油机进行对比试验,探究点
丘陵山区果园果树的冠层嫁接目前主要依赖人工踩高,攀爬进行嫁接作业,危险性较高且劳动强度大。果树冠层嫁接区域具有复杂空间形状,需要一种机械化辅助装置在冠层嫁接过程中
时间表达式识别是自然语言处理领域中,命名实体识别技术的一个重要组成部分。时间表达式的识别和对时间信息的获取和使用,在信息检索、自动问答等诸多领域有着重要的作用。本
SLAM技术在无人驾驶、机器人、AR等领域有着广泛的应用,如何精准地定位相机姿态并完成高质量的地图绘制一直都是学者们不断探索的问题。目前多数SLAM系统主要还是以单目相机
主题模型是一种对文本数据挖掘行之有效的方法,其应用领域包括文本挖掘、个性化推荐等。随着近年来互联网的迅猛发展,短文本数据迅速增加。对短文本数据加以利用,进行组织和
计量检测以及管理工作的质量已经发展成为当前,象征一个国家工业水平高低的重要指标,也是当前各级政府配置相关计量单位机构的重要依托。计量检测工作是一项技术繁杂,且精细
本科课堂是高等教育教学的重中之重,教育部多次强调深化本科课堂改革,推动本科教学革命,全面提高本科育人能力。信息化时代,“互联网+教育”正在走进高校课堂,一步步改变传统的上课方式。MOOC、SPOC等被高校大力推广,学生不在拘泥于课堂获取知识,利用互联网学习在高校教学中逐渐成为常态,随后混合式教学逐渐普及,“线上+线下”成为高校有效开展课堂教学的新教学方式。作为课堂教学重中之一的“学业评价”,紧随不