【摘 要】
：
支持向量机（SVM）是机器学习中一种用于数据分类的非常有效的工具,其基本理论和泛化性能可以通过结构风险最小化进行很好地理解.然而,随着现代信息技术的不断发展以及数据集的不断增加,要求训练方法具有较低的操作复杂度以及较低的内存需求,因此如何运用SVM对大规模数据集更快地进行分类面临着极大的挑战.随机梯度下降（SGD）算法是求解大规模SVM问题的高效算法之一,但是在实际运算中SGD算法的收敛速度较慢.
论文部分内容阅读
支持向量机（SVM）是机器学习中一种用于数据分类的非常有效的工具,其基本理论和泛化性能可以通过结构风险最小化进行很好地理解.然而,随着现代信息技术的不断发展以及数据集的不断增加,要求训练方法具有较低的操作复杂度以及较低的内存需求,因此如何运用SVM对大规模数据集更快地进行分类面临着极大的挑战.随机梯度下降（SGD）算法是求解大规模SVM问题的高效算法之一,但是在实际运算中SGD算法的收敛速度较慢.本文主要研究运用SGD以及一些改进的SGD算法包括SVRG和SARAH算法来解决SVM分类问题.本文的工作主要包括以下两个方面:一方面,对于利用SGD算法求解SVM问题中步长选取耗时以及收敛速度慢的问题,我们首先分别将小批量算法与SVRG算法、SARAH算法结合,然后使用改进的Barzilai-Borwein（BB）方法来自动计算步长,进而得到新的MSVRG-BB和MSARAH-BB算法来求解带有光滑化合页损失函数的SVM问题.在标准数据集上的数值实验结果表明,我们提出的算法不仅能够有效的处理大规模数据集,还具有较高的分类精确度以及较快的收敛速度.另一方面,针对高维稀疏数据集下,SVRG算法在外循环的迭代中因全梯度的计算而变得稠密的问题,我们使用稀疏近似梯度将MSVRG-BB算法进行拓展,进而得到新的算法,即MSSVRG-BB算法.从理论上证明了对于强凸目标函数,MSSVRG-BB算法具有线性收敛速度.数值试验表明,MSSVRG-BB算法对初始参数的选取不敏感,并且在求解大规模高维稀疏数据的线性SVM问题时,与先进的小批量算法相比,运算成本降低并且能够更快的达到收敛上界.
其他文献
背景:牙周炎是发生在牙周支持组织的慢性炎症性、破坏性疾病,主要表现为牙周结缔组织破坏和牙槽骨吸收,是成人牙齿缺失的主要原因。牙周炎不仅破坏局部牙周组织,而且严重威胁人类全身健康。近年来,诸多研究表明牙周炎与肾脏损伤密切相关,氧化应激参与其中,但具体机制尚不明确。氧化应激是指由活性氧（reactive oxygen species,ROS）过度累积导致的机体氧化/抗氧化系统失衡,倾向于氧化的一种状态
近几年来,滨海县振东闸以北段主海堤抛石护脚受潮水波浪冲刷形成陡坡,严重影响主海堤安全,亟须加强堤脚防护。在水毁修复工程中堤脚防护按照坡面防护设计,根据现状波浪要素计算护脚块石重量。本文结合波浪断面物理模型试验和扭王字块现场摆放试验,确定堤脚采用600kg扭王字块结合250kg抛石的防护型式。实践证明该防护方案是可行有效的,且单层扭王字块双向嵌固安装整体稳定性优于单向嵌固型式,可为类似海堤工程提供参
研究背景与目的:口腔颌面部外伤、肿瘤及牙周病等导致的骨缺损是口腔疾病诊治中最为常见的问题。口腔种植手术中骨量不足严重影响口腔种植修复的临床效果,因此骨组织再生修复是口腔医学研究的关键。近年来随着不同骨缺损修复材料的研究和开发,研究人员逐渐关注到免疫细胞的参与在材料的促成骨中起到非常关键的作用。在生物材料进行骨组织修复的早期阶段,免疫细胞如中性粒细胞,巨噬细胞等参与异物引发的炎症反应,其中巨噬细胞作
背景骨损伤严重影响患者身心健康,外伤导致的牙槽突损伤可造成颌面部畸形,若同时伴有牙周炎将增加骨损伤修复治疗难度。在骨损伤过程中伴随着炎症的产生,其中炎症主要由RAW264.7细胞（巨噬细胞）通过NF-kB（Nuclear factor-kB,核因子-kB）信号通路产生IL-6（Interleukin-6,白细胞介素-6）、TNF-α（Tumor necrosis factor-α,肿瘤坏死因子-α
为了考察不同湿度条件对煤自燃过程参数及热效应的影响，搭建了湿度可调的精密型空气发生装置，并与煤自燃程序升温氧化装置联用，测定煤自燃过程指标性气体的释放规律；利用热分析设备定量表征不同空气湿度条件下煤自燃热量释放规律；结合数值模拟方法探究空气湿度对煤自燃过程热效应影响。结果表明：通入潮湿空气可显著提高煤样耗氧速率，促进CO和CO2的生成，空气湿度对煤自燃过程热效应呈现出阶段性特征；水分在刚接触到煤体
研究目的:本研究利用野生型及C3ar基因敲除的模式动物建立小鼠牙周炎模型后观察差异表型,同时在体外验证产生差异表型可能的原因及下游信号通路,以期阐明C3a-C3aR轴在牙周炎发生发展中的作用及作用机制。研究方法:1.体内动物实验:利用基因型为C3ar+/+、C3ar+/-和C3ar-/-的基因敲除模式动物通过4-0的聚酰胺尼龙线结扎小鼠上颌左侧第二磨牙建立慢性牙周炎小鼠模型,以对侧同颌同名牙为自身
表观遗传转录调控因子通过调控染色质上的不同层次的多重共价化学修饰,来影响基因转录过程的平衡和有序,以确保特定细胞中复杂和多层面的分化及发育过程。然而,表观遗传转录调控因子的异常表达,能导致染色质上化学修饰异常及基因转录表达紊乱,驱动人类多种癌症和慢性炎症疾病的发生发展。因此,阐明疾病相关的表观遗传化学修饰在基因转录调控中的作用机制,是研发创新型表观遗传靶向药物的重要基础。组蛋白翻译后共价修饰是表观
目的:复合树脂材料因具有优良的美观性和较为方便的操作性,近年来已成为牙体缺损修复治疗的首选材料。然而在牙本质-树脂粘接界面发生的继发龋却常常导致复合树脂修复失败。因此,研制一种新型抗菌型牙本质粘接剂来抑制细菌在牙本质-树脂粘接界面的生长是一种有效预防继发龋的方法。目前,纳米技术推动了纳米抗菌材料的快速发展,纳米材料具有较大比表面积,能明显提高材料表面的化学反应性,这开辟了抑制细菌的新思路。金属和金
研究目的:基于安氏I类均角型人群正畸治疗前的锥形束计算机断层扫描（Cone-beam computed tomography,CBCT）结果,考察其上颌磨牙的近远中向倾斜度并进行分组分析,探讨上颌磨牙倾斜度与上颌第三磨牙阻生深度、阻生角度及生长方向的相关性,以期对正畸临床诊疗提供参考依据。研究方法:收集安氏I类均角型人群正畸治疗前锥形束计算机断层扫描（Cone-beam computed tomo
为了市政污水厂水池结构设计与使用效能达标，减少资源浪费，提高污水处理厂的工作效率，保护城市环境。本文通过对市政污水厂水池结构设计相关问题展开深入探讨，结合某市政污水厂的水池结构设计项目实例，分析了水池结构设计应重视规范性、截面设计、荷载组合等要点，总结水池结构设计过程中，应当解决的抗浮稳定性、水池防渗漏等问题，通过对此项目进行技术分析，认为设计过程中需重视合理的截面取值及荷载组合问题，以及混凝土结