基于增广拉格朗日方法的降维孪生支持向量机

来源 :聊城大学 | 被引量 : 0次 | 上传用户:sntengwei
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
最优化研究的问题之一是图像特征的提取.主成分分析(Principal Component Analysis,PCA)利用向量法提取特征,矩阵广义低秩近似方法(Generalized Low Rank Approximations of Matrices,GLRAM)利用矩阵提取特征,两种降维方法均被广泛应用.已有他人的文章采用了半光滑牛顿法求解基于L2范数的软间隔支持向量机(Soft-Margin Support Vector Machine,C-SVM)和采用增广拉格朗日方法(Augmented Lagrange Method,ALM)求解基于L1范数的软间隔支持向量机解决图像的二分类问题,通过对模型稀疏结构的研究,降低了复杂度,提高了分类精度.本文致力于增强对图像的特征选择能力,提高算法的二分类性能,主要做了以下工作:(1)将PCA算法与孪生支持向量机(Twin Support Vector Machine,TSVM)相结合,提出了基于PCA的TSVM和基于PCA的最小二乘孪生支持向量机(Least Squares Twin Support Vector Machine,LSTSVM),解图像二分类问题.PCA能在压缩数据的同时保证最小的信息损失.结果表明:PCA-TSVM比TSVM的运行时间少;PCA-LSTSVM与LSTSVM相比,不仅提高了精度,且时间约缩短为原来的3%.(2)将GLRAM算法与TSVM相结合,提出了基于GLRAM的TSVM和基于GLRAM的LSTSVM,求解图像二分类问题.GLRAM对数据进行双线性变换,能循序降低重构误差,使算法快速收敛.结果表明:GLRAM-TSVM比TSVM的运行时间少;GLRAM-LSTSVM比LSTSVM精度上有提升,时间约缩短为原来的2%,内存约占到原来的2%-5%.(3)提出了基于半光滑牛顿法的L2-TSVM算法,再结合降维方法提出了基于半光滑牛顿法的PCA-L2-TSVM算法和基于半光滑牛顿法的GLRAM-L2-TSVM算法.半光滑牛顿法的计算中数据集的大小影响计算一阶偏导数的广义雅可比矩阵时的耗时,数据集越大则算法的运行时间长且精度不稳定.TSVM通过求两个非平行的超平面来分离数据,训练速度约提升了四倍.基于半光滑牛顿法的L2-TSVM算法使用原始数据集,基于半光滑牛顿法的PCA-L2-TSVM算法和基于半光滑牛顿法的GLRAM-L2-TSVM算法分别使用PCA降维和GLRAM降维后的数据集.结果表明:基于半光滑牛顿法的L2-TSVM算法不仅运行时间长而且精度不稳定,而降维后的两种算法在图像二分类问题上具有提升精度和缩短运行时间的效果.(4)提出了基于ALM的L1-TSVM算法,再结合降维方法提出了基于ALM的PCA-L1-TSVM算法和基于ALM的GLRAM-L1-TSVM算法.ALM算法通过ALM算法更新拉格朗日乘子,通过半光滑牛顿法方法和莫罗-吉田正则化方法求解模型ALM的子问题.数据集越大则迭代时间越长,精度越不稳定.基于ALM的L1-TSVM算法使用原始数据集,基于ALM的PCA-L1-TSVM算法和基于ALM的GLRAM-L1-TSVM算法分别使用PCA降维后的数据集和GLRAM降维后的数据集.结果表明:基于ALM的L1-TSVM算法运行时间长而且精度不稳定,而降维后的两种算法具有提升精度和缩短时间的效果.
其他文献
新西兰位于南太平洋地区,在地理、历史与文化方面与太平洋岛国紧密相连。新西兰作为一个移民国家,太平洋岛民移民新西兰的历史由来已久。二战后,新西兰重建期间吸收了大批来自太平洋岛国的劳工,为新西兰经济发展做出巨大贡献。到了20世纪70年代,新西兰受到世界经济危机以及非法移民引发一系列的社会问题的影响,新西兰马尔登政府发动了“黎明突袭”,致使大批太平洋岛民被遣送回国,但是这种情况只是暂时的。到21世纪初,
学位
中华民族始终是一个崇尚英雄、成就英雄、英雄辈出的民族,“中华民族英雄精神”作为中华民族文化的重要组成部分,蕴含了精忠报国、无私奉献、艰苦奋斗等诸多高尚的精神品质,它是激励中华民族砥砺前行的强大力量。而在全球化背景下,文化冲突现象日益严峻,当前高中生正处于人生观、价值观、世界观塑造的关键时期,极易受到历史虚无主义和文化虚无主义的影响,形成对英雄精神的错误解读。因此,加强对高中生“中华民族英雄精神”地
学位
京杭运河山东段又被称为“闸河”。自元代会通河开通以后,山东段河道就饱受到水源匮乏、黄河泛溢等因素影响。为节制水量,元明清时期先后设闸百余座,拦水截流、连通河湖、调节水位,以通漕、商。为提高通航效率和闸座使用功能,历代治河者在闸座技术、闸座设置、闸座管理三个方面进行了系统的设计,形成了较为完善的制度。在技术方面,受山东河道宽度所限,元代选用叠梁门石闸作为主河道节制闸,并确定闸座规格尺寸;在此基础上,
学位
本文将李群方法作为主要研究工具,将构造辅助函数展开法作为辅助,并结合数学软件Maple,对波传播问题、固体力学、流体运动学等多个领域中应用十分广泛的三个非线性发展方程进行相关探讨,包括一类广义色散方程、一个改进的五阶非线性演化方程、一类推广的Burgers-Korteweg de Varies(简记为Burgers-Kd V)方程.最终得出了这些方程的多种新的精确解.第一章,应用李群对一类广义色散
学位
本文应用经典李对称方法研究了双曲几何流方程和SL’(2)-平面曲线运动方程,并且讨论了修正的双曲几何流和耗散双曲几何流的守恒律.首先,讨论了修正的耗散双曲几何流方程的非线性自伴随和守恒律.其次,研究了黎曼面上耗散双曲几何流方程的群不变解、整体经典解和解的破裂.再次,用李对称方法研究了修正的双曲几何流的对称群、最优系统、群不变解和守恒律.最后,利用群不变解理论讨论了SL’(2)几何中平面曲线运动方程
学位
试验旨在研究枯草芽孢杆菌发酵复配饲料的抗氧化活性。试验以DPPH法、FRAP法等测定复配发酵饲料自由基清除率和铁离子还原能力,采用福林酚比色法、高效液相色谱法分别测定发酵饲料总酚、大豆异黄酮、山柰素含量,通过主成分分析法对抗氧化指标进行综合评价与分析。结果显示,配比为94%豆粕、4%麦麸、2%银杏叶渣的饲料发酵66 h后抗氧化性能最高;发酵样品提取液的抗氧化能力与抗氧化物质含量均显著提升;铁离子还
期刊
随着现代控制理论的迅速发展和广泛应用,Markovian跳变系统受到众多专家学者的关注与研究.作为一类特殊的切换系统,Markovian跳变系统可以有效地描述系统自身以及外部随机干扰引起的系统结构和参数的突然变化等现象,在描述目标跟踪系统、航空航天系统、网络通信系统等实际系统中展现出卓越的优势.本文旨在研究具有不确定参数和几类时变时滞的中立型Markovian跳变系统和Takagi-Sugeno(
学位
<正>0前言养猪业的快速发展导致饲料资源的短缺和生产成本的不断上升,畜禽饲料研究与开发已成为当前畜禽养殖业发展的热点之一。传统饲料加工技术的不断改进和新技术的引入,使得饲料的品质和营养价值得到了提高。其中,
期刊
本文运用不变子空间和动力系统的方法研究了几类非线性波方程.首先,通过引入行波变换和分数阶复变换将一类广义三阶KdV方程和一类空间-时间分数阶Whitham-Broer-Kaup方程分别转化为相对应的常微分方程,其次,利用动力系统方法并借助Maple画出了经转化得到的常微分系统的分岔和相位图,然后通过分析在不同区域下时系统的分岔和相图进而得到了方程的精确解,并给出了部分精确解的图像.最后,运用不变子
学位
粗糙集理论是Pawlak提出的一种处理不确定性信息的数学工具,其核心思想是在给定的知识库中对不精确不确定的信息进行近似刻画.经典的Pawlak粗糙集是基于等价关系的,这限制了粗糙集理论与应用的范围.因此,人们引入了各种广义粗糙集模型,而多粒度粗糙集即是其中最重要的模型之一.本文拟对多粒度粗糙集展开进一步的研究,主要内容包括:1.引入了拓展的多粒度粗糙集模型.多粒度粗糙集有两个基本模型:乐观模型和悲
学位