随机梯度下降和对偶坐标下降算法的研究与应用

来源 :燕山大学 | 被引量 : 0次 | 上传用户:hellosunday
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的到来,模式识别中涌现出了大量高维大样本数据。对现阶段分类算法的处理速度和识别正确率均提出了挑战。本文主要研究了凸优化算法中对高维大样本数据处理相对较快的算法模型,并进行了应用实验,取得了良好效果。首先,本文分析了梯度下降法的原理及优缺点,在此基础之上,引入了随机梯度下降法,并详细分析了其求解步骤和收敛性。随后与多类SVM结合,进行了仿真实验和日常活动识别实验,均取得了良好效果。其中,日常活动识别的分类正确率达到了95.18%。其次,针对梯度下降法迭代计算量大,不适合高维数据和随机梯度下降法连续随机梯度变化较大,有可能指向相反方向的缺点,又引出了半随机梯度下降法。本文详细推导了半随机梯度下降法的算法步骤,并分析了其收敛性和最优参数选取。将其与Logistic回归模型结合进行了仿真实验,并应用于精神分裂症的分类诊断问题中。实验结果表明,本文方法对精神分裂症的诊断取得了较好效果,分类正确率达到91.41%,高于随机梯度下降法,且计算速度较快。最后,本文分析了坐标下降法的基本原理,并延伸出了对偶坐标下降法。随后分析了对偶坐标下降法的主要计算步骤和收敛性,并与二值Logistic回归和最大熵模型结合,分别从它们的对偶问题进行求解。然后在基准数据集和自然语言处理数据集上进行了实验,并将收敛性和正确率与其它相关算法进行对比,取得了良好效果。
其他文献
卵巢甲状腺肿(SO)是一种高度分化的单胚层特异性肿瘤,是成熟性畸胎瘤的一种特殊类刑。WHO定义为一种全部由甲状腺组织组成或以其为主(509/6)的成熟性畸胎瘤。目前关于SO的CT表现的
伴随我国中小企业的飞快发展,我国的就业形势有所改善,社会经济愈发繁荣.但与此同时,经济危机的冲击也在一定程度上促使我国中小企业融资环境发生了根本性转变,融资难问题日
直肠脱垂是一种为人熟知的疾病,给病人和家人带来巨大痛苦,自然的直肠脱垂和间歇与自发的频繁的脱出,使病人引发焦虑和难以接受,严重影响病人的生活质量。直肠脱垂是指肛管、直肠
目的:探讨为急性心肌梗死患者实施循证护理的效果。方法:将2016年7月至2017年12月期间北京石景山医院收治的60例急性心肌梗死患者作为研究对象。将这60例患者根据入院的先后
目的:探讨并分析对接受手术治疗的口腔颌面部肿瘤患者进行全程优质护理的效果。方法:将2018年10月至2019年10月期间在中南大学湘雅口腔医院进行手术治疗的62例口腔颌面部肿瘤
目的:探讨并研究对接受膀胱全切术与泌尿造口术后的膀胱肿瘤患者进行整体护理的临床效果。方法:将2016年3月至2019年3月期间在贵州省黔南州人民医院进行膀胱全切术与泌尿造口
目的:探讨对接受去骨瓣减压术的颅骨缺损伴脑积水患者进行预见性护理的临床效果.方法:将2018年1月至2019年6月期间广州医科大学附属第五医院收治的76例颅骨缺损伴脑积水患者
梅毒(syphilis)是由梅毒螺旋体感染引起的一种性传播疾病,可侵犯皮肤黏膜及神经、心血管、骨骼等组织器官,引起慢性病变。梅毒感染者的皮损分泌物、血液中含大量梅毒螺旋体(Trepon
急性白血病(acute leukemia,AL)是一种常见的血液系统恶性克隆性疾病,导致血细胞数量和成分的变化,引起血常规检查中一系列指标异常。由于白血病细胞的多态性和复杂性,仪器分类
目的:探讨在真武汤中重用附子治疗慢性肾病的效果。方法:将2018年4月至2019年4月期间甘肃省酒泉市肃州区西南街社区卫生服务中心收治的84例慢性肾病患者作为研究对象。将这84