稀疏与鲁棒的孪生支持向量机算法研究

来源 :苏州大学 | 被引量 : 0次 | 上传用户:bencui
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在机器学习和模式识别领域,以统计学习理论为基础的支持向量机在小样本、非线性和高维数据问题上表现出良好的学习性能。然而,支持向量机的训练涉及到求解一个二次规划问题,其计算复杂度是训练样本数的三次方。为了缓解支持向量机的高计算复杂度问题,研究人员提出了孪生支持向量机。不同于支持向量机算法求解一个规模较大的二次规划问题,孪生支持向量机是求解一对规模较小的二次规划问题,从而获得比支持向量机更快的训练速度。本文主要对孪生支持向量机算法的稀疏性和鲁棒性进行研究,主要的工作包括如下三个方面。(1)提出了一种稀疏孪生支持向量机算法。针对孪生支持向量机算法缺乏稀疏性的问题,本文引入能诱导稀疏性的1范数正则,提出了基于1范数正则的孪生边界支持向量机算法。本文算法的目标函数含有两种能诱导稀疏性的技术——模型系数的1范数正则和Hinge损失函数。因而,本文算法具有良好的稀疏性能,其线性版本可以实现特征选择,非线性版本可以实现样本约减。实验结果表明本文算法在具有较好稀疏性的同时,也具有较好的分类性能。(2)提出了一种鲁棒孪生支持向量机算法。为了解决孪生支持向量机算法对异常点敏感的问题,本文引入相关熵诱导损失函数,提出了基于相关熵诱导损失函数的孪生支持向量机算法。本文算法的目标是最小化模型系数的2范数、相关熵诱导损失函数及正(负)类样本到正(负)类超平面的距离。相关熵诱导损失函数的引入,使得本文算法在处理含有异常点的数据时,表现出较好的分类效果。在求解优化问题的过程中,我们采用了交替迭代方法来求解生成的半二次优化问题,能使得训练过程更快地收敛。实验结果显示,本文算法在表现出良好分类性能的同时,也表现出了对异常点的鲁棒性。(3)提出了一种稀疏鲁棒的孪生支持向量机算法。针对孪生支持向量机算法缺乏稀疏性及鲁棒性的问题,本文结合上述两个算法,提出了基于相关熵诱导损失函数的稀疏孪生支持向量机算法。本文算法的目标函数是最小化模型系数的1范数、相关熵诱导损失函数和样本点到同类超平面的距离。模型系数的1范数能够诱导出稀疏的决策模型,以此可以实现特征选择。同时,相关熵诱导损失函数对异常点具有良好的鲁棒性。在含有特征噪声和标签噪声的数据上分别进行了实验,结果表明本文算法较其他同类算法在稀疏性和鲁棒性方面表现出了良好的性能。
其他文献
21世纪以来,我国发布一系列人工智能战略文件,大力发展人工智能技术,如今已将人工智能技术广泛应用在交通、医疗、金融、司法、军事等各个领域。人工智能技术一方面提高了人民生活水平和社会发展水平,另一方面也带来了严重的刑事风险,如发生侵犯公民个人信息案、支付宝网络诈骗案、车辆事故等。目前,我国尚处于弱人工智能时代,人工智能技术的刑事风险往往来自研发者、使用者或监管者违反人工智能技术规范实施的行为。而强人
学位
相较于企业破产后的债务清盘,个人债务人破产后本体依然存在,仍然具有人力价值,因而个人破产后会涉及剩余债务安排问题,破产的运行与免责息息相关。但是破产并不等于免责,免责也不是破产的必然结果,两者各有其考量要素。相对而言,破产强调对违约债务人的惩罚,具有强制公平清偿的目的;免责则是对诚实而不幸的债务人的救济。可见两者是不同方向的两种力,任一种力量过强都会导致天平的倾斜:倾向债权人一方会忽视债务人的生存
学位
针对现有方法难以预测出符合飞行移动目标不确定行为方式轨迹的问题,提出基于逆强化学习的飞行移动目标轨迹预测方法,通过学习目标行为偏好以及模拟目标行为决策过程的方式预测目标的移动轨迹。首先基于深度神经网络建立目标的行为决策模型与行为偏好模型,然后通过最大熵逆强化学习方法交替地学习模型参数。为了有效地学习目标的不确定行为特征,采用监督学习的方法学习出目标示例轨迹概率分布模型,用于指导目标行为偏好模型的训
期刊
第一部分2D-STI评估儿童心肌病左室收缩功能的价值探讨目的 应用二维斑点追踪成像技术(2D-speckle tracking imaging,2D-STI)评价心肌病左心室收缩功能不全患儿左心室心肌收缩功能及收缩同步性,研究其与左室射血分数(Left ventricular ejection fraction,LVEF)、临床心功能评分、左心室内径的相关性,探讨二维应变参数评价儿童心肌病左室收缩
学位
我国现行法律规范对劳动者职业伤害的保障以劳动者同用人单位之间建立劳动关系为前提,而在依托互联网平台发展的新业态从业模式中,新业态从业人员同平台企业之间的关系无法认定,新业态从业人员职业伤害保障存在立法空白。理论上关于如何保障新业态从业人员的职业伤害权益主要存在三种观点:第一,将新业态从业人员认定为雇佣者纳入工伤保险制度保障;第二,将其认定为独立劳动者纳入灵活就业人员职业伤害保险制度保障;第三,将其
学位
报纸
目标轨迹预测是保证目标航行安全、规划飞行航迹和搜寻空中目标等任务的关键技术,在军事和交通管制等方面具有重要意义。针对传统飞行目标轨迹预测方法模型较为简化且预测精度较低的问题,提出了基于卡尔曼滤波算法展开的深度神经网络模型,用于飞行目标的轨迹预测任务。该模型通过长短时记忆(long short-term memory, LSTM)网络从目标的航迹数据中学习目标的运动状态,再利用卡尔曼滤波算法对LST
期刊
债务人被破产宣告之后,债务人的权利必然会受到一定程度的限制。个人权利限制是个人破产制度的核心内容,很大程度上影响着个人破产制度的实施效果。本文将从个人权利限制的理论基础、权利限制的内容、设立方式和限制期限四个方面进行阐述,同时提出未来我国立法上的建议。首先,个人破产权利限制具有惩戒、督促和教化的功能,是发挥制度导向作用的内在要求。其次,债务人受到限制的权利内容,主要包括债务人财产方面和行为方面的权
学位
目的:研究表观遗传酶DOT1L在脓毒症中的粒/单核细胞的炎症反应中的调控机制。方法:第一部分:1.筛选LPS刺激诱导小鼠骨髓Gr1+粒/单核细胞中表达改变的表观遗传酶。取12只健康小鼠,随机分配为实验组与对照组,剥离小鼠股骨和胫骨冲洗获得骨髓细胞,应用Ficoll法获得小鼠骨髓单个核细胞,再应用磁珠分选术获取小鼠骨髓Gr1+粒/单核细胞,实验组予LPS刺激造成脓毒症模型。2h后收取两组的细胞,应用
学位
近年来,随着虚拟现实、物联网和高清电视等5G技术的飞速发展,互联网业务与日俱增,这导致了网络流量的指数级增长,网络上下行流量间的非对称性也日益加强,这些都对承载这些业务的光网络提出了很大的挑战。首先,现有的光网络都是基于业务流量对称的假设来设计的,日益增强的流量非对称性显然会造成大量的网络资源浪费。其次,光网络中承载的业务越来越多,任何网络故障都会造成非常严重的后果,因此,针对光网络生存性策略的研
学位