基于参数损失核正则化学习算法的误差分析

来源 :浙江工商大学 | 被引量 : 0次 | 上传用户:xiawei0018
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术和人工智能的发展,机器学习研究受到越来越多学者的关注,而定量地分析机器学习算法的误差是统计学习理论的重要研究内容之一.近年来,一些研究表明含参数的可调节损失函数能有效改善核正则化算法的学习性能,本文主要对一些基于含参数损失的核正则化学习算法进行研究,给出了学习算法的误差界,并具体分析了参数对算法学习性能的调节作用.具体内容如下:1.在实际应用中,异常样本点对学习算法性能的影响不容忽视,有时候甚至一个异常点就可能对整个算法的学习效果带来很大影响.在回归问题中,为了减轻异常样本点对回归性能的影响,本文对基于含同伦参数损失函数的鲁棒核正则化回归算法进行了研究.由于含同伦参数的损失函数是一个拟凸函数,通常的凸分析方法不适用,论文采用基于拟凸函数的分析技巧对算法进行误差分析,给出了具体的误差界,异常样本点对学习算法性能的影响程度也量化地得到了体现.2.为减轻异常样本点对分类性能的影响,本文对基于含参数鲁棒损失的核正则化分类学习算法进行了研究,给出了额外错分误差和额外泛化误差之间的重要比较不等式关系,并用凸分析方法进行了具体误差分析,分析结果显示异常点对分类算法性能的影响可以通过适当选择损失函数中的参数进行有效调节.3.核正则化排序算法是目前统计学习理论领域讨论的热点问题,而成对学习是排序问题的推广.本文给出了一种基于含参数拟凸损失的核正则化成对学习算法,利用拟凸分析理论和关于U-统计量的不等式对该算法进行了误差分析,具体给出了算法的误差界.分析结果表明,算法的样本误差与损失函数中参数的选择有关.数值实验结果显示,与基于最小二乘损失的排序算法相比较,该算法有更稳健的学习性能.4.在线学习是适应大数据时代的一种新的机器学习算法,由于它面对大样本时表现出明显优势,对在线学习算法的研究已受到广泛关注.本文给出了一种基于含参数二次损失函数的核正则化在线学习算法.在假设步长满足一定条件下,证明了算法产生迭代点列依概率意义下的收敛性,并在期望意义下对算法最后一步迭代的泛化误差进行了分析.结果显示,二次损失函数的尺度参数σ可有效控制算法的误差界.5.将在线学习算法用于解决成对学习问题,本文给出了基于含参数二次损失函数的核正则化在线成对学习算法.论文结合成对再生核的特点,应用凸分析方法和Rademacher复杂性技巧对算法的收敛性进行了分析,并在期望意义下具体给出了最后一步迭代的误差界.结果显示,通过适当选择二次损失函数中调节参数的值,算法的学习速度可以得到有效改善.
其他文献
《撒哈拉的故事》是台湾女作家三毛的成名作,本来是散见于台湾《联合报副刊》,因为读者喜爱,才得以结集出版。这部作品是散文,又是游记,但其中又有人物情节,是一种集散文、游记和小说于一体的新式体裁。作品通过三毛的亲身经历,将她的异国婚姻、沙漠生活呈现在读者面前,给读者带来特殊的艺术感受。从这部作品中,读者不仅了解到三毛的流浪情怀、爱情观,她的博爱精神也给读者留下了深刻印象。
淤地坝是在世界范围内广泛应用的非常有效的水土保持措施,在水土流失严重的黄土高原上发挥着巨大作用。2003至2020年间,水利部计划在黄土高原建设淤地坝16.3万座,新增坝地面积达50万公顷,势必会对黄土高原小流域的水沙运动产生深远影响。但对淤地坝在达到设计库容后对流域水沙的影响机理和阻控效率的研究,目前仍不完善。本文将淤地坝及其坝地视为一个动态系统,以淤地坝的设计库容为界,将淤地坝的全寿命周期分为
小学科学课程强调做中学和学中思,通过合作与探究,逐步培养学生高阶思维。但是当下课堂,教师更多时候关注的是学生知识的建构,忽略了学生思维的训练,导致学生高阶思维发展受阻。在科学课堂活动中采用任务驱动法,比如"巧用任务驱动,打开思维大门""妙解任务障碍,培养创新思维""智评制作成果,发展批判思维"的方式,能为学生提供充分自由表达、质疑、探究、讨论问题的时间与空间,较好地激活学生的创造性思维,发展学生的
针刀治疗腰椎间盘突出症在解除机械压迫、抑制炎症因子释放、镇痛和调节脊柱环境等方面临床作用显著。本研究综述近10年来针刀治疗腰椎间盘突出症的相关文献,其作用机制主要体现在:解除机械压迫、抑制炎症因子释放、调节免疫、镇痛、改善局部微循环、调节脊柱环境和人体电生理7个方面,并对这7个方面展开论述,为今后研究针刀治疗腰椎间盘突出症提供依据。
碎片化场景为历史虚无主义传播提供了新渠道,其传播主体、传播内容、传播受众、传播媒介和传播效果都呈现出新特征。传播主体分散在网络空间的每个角落,专业学者和业余人士同时在场。传播内容渗透于日常生活的只言片语,碎片信息和闲言碎语相互交织。传播受众活跃在现实社会的不同领域,知识分子和普通民众遥相呼应。传播媒介弥漫于网络空间的多元场景,传统媒介和新兴媒介密切协同。传播效果呈现为取悦受众的娱乐心态,文艺作品和
目的探讨针刀结合推拿治疗膝关节骨性关节炎的效果。方法随机在2019年3月—2020年3月选择104例在安徽省亳州市接受治疗的膝关节骨性关节炎患者,将其随机进行分组,为观察组(52例)与对照组(52例),对照组采用单一的中医推拿治疗法,观察组则采用针刀结合推拿治疗法。对比2组患者治疗后的临床效果。结果观察组治疗后临床的总有效率为96.15%(50/52),对照组治疗后临床的总有效率为76.92%(4
风湿性多肌痛以肩胛带及骨盆带的肌肉疼痛、关节受限为主要症状表现,目前指南主要以口服激素为主要治疗方案,不良作用明显。针刀分层松解术作为中西医理论体系结合,且中医特色鲜明的治疗手段,应用于该疾病的治疗,对于控制症状、改善关节功能有较好效果。
墨学和儒学在春秋时期并称为显学,墨子思想的优秀因子对解决当代问题具有积极意义。文章采用文献研究法和历史研究法,对墨子政治伦理进行深刻剖析,创新地揭示了墨子政治伦理中尚贤、尚同、兼爱等方面的深刻内涵,并将墨子的伦理思想与政治运行相结合,推论了墨子的政治伦理在政治中发挥的作用。墨子出身于小生产者,师从儒家,后建立墨家学派,墨子的社会地位并不高,这就决定了墨子从平民的角度去思考。墨子所处时代生产力水平有
新时代办好思想政治理论课应把提高质量作为出发点和落脚点,从高度、锐度、广度和深度等多个维度集中发力,不断增强思想政治理论课的思想性、理论性和亲和力、针对性,构建全员全程全方位的育人格局,真正将思想政治理论课打造成为人人爱听、终身受益的"金课"。