一类子取样的随机牛顿法的收敛性分析

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:huazhongtan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随机近似方法是求解机器学习中的大规模优化问题最有效的算法,其中随机一阶算法的研究已经有了很多的研究成果,而随机二阶算法的研究还比较少.随机一阶算法需要大量的迭代,为了提高算法的收敛速度,可以考虑使用随机二阶算法.因此,研究具有实际应用价值、更快收敛速度的算法是非常有意义的.本文主要考虑求解经验风险极小化问题,基于海森阵的随机近似,构造了一类子取样的随机牛顿算法,并从期望意义与概率意义下给出算法的收敛性分析.若目标函数为二阶连续可微的强凸函数,讨论了如何选取梯度和海森阵的样本大小来保证所构造算法的超线性收敛速度.
其他文献
混凝土材料依靠其优越的工程和力学性能,广泛的应用于建筑工程各领域。在各种类型的建筑结构中,混凝土结构占据着主导地位。但是,由于混凝土材料本身特性以及各种复杂环境等
在布雷顿森林体系下,现行国际金融组织的决策机制多为金融大国所控制。亚洲基础设施投资银行(以下简称亚投行)是首个由中国倡导建立,致力于促进发展中国家基础设施建设和经济互联互通的区域性金融组织。亚投行的决策机制能否体现广大发展中国家的利益是区别于同类国际金融组织的关键。本文通过对比同类国际金融组织在决策机制中的设计及其在实践运行中的缺陷,探究亚投行决策机制的合理性并提出完善意见。国际金融组织的决策机制
积雪是地球外部圈层水圈的地理要素之一,也是研究地球表层循环系统的重要要素之一。青藏高原作为世界第三极因其特殊的地理条件使其成为中国大陆主要积雪区之一,就全球尺度而
近年来,新闻文本自动化生成的应用越发普遍,其出现既带来了新的新闻创作模式,也影响了新闻读者的阅读体验。尽管机器生成新闻的影响已经得到学界的关注,目前仍缺少从语言学角
随着基因芯片技术在癌症研究中被广泛应用,大量有价值的微阵列数据被迅速积累,利用这些数据进行癌症标志物挖掘是生物信息领域的研究重点。微阵列数据为从分子层次上对癌症进
随着经济全球化的迅速发展,快递企业在市场中的竞争越来越激烈。近年来,由于国外很多快递企业进驻中国物流市场,出现的竞争格局不仅仅是国内快递企业的竞争,还有与国外快递企
科学技术的不断发展和计算机系统的广泛应用使得大量数据信息不断涌入。为了让计算机像人脑一样识别复杂的事物,有必要研究和处理数据的模糊性。如何高效的分析模糊数据从而
本文采用正交方法研究了玄武岩纤维表面等离子体和马来酸酐单体接枝组合处理对玄武岩纤维(BF)增强环氧树脂复合材料(EP-FRP)力学性能的影响。本文研究了马来酸酐、丙烯酸单体接枝处理纤维表面对玄武岩纤维、碳纤维增强酚醛树脂复合材料(PF-FRP)力学性能的影响。还研究了以酚醛树脂为胶黏剂,高性能纤维表面马来酸酐接枝处理对纤维增强杨木单板层积材(LVL)力学性能的影响。该项试验结果对高性能纤维增强杨木
为了提高汽车驾驶的安全性与舒适性,越来越多的汽车生产厂家将目光聚焦于智能辅助驾驶系统的设计和开发。随着人工智能的发展,自动驾驶技术已经成为当前汽车行业的最新发展方
一直以来,企业绩效都是衡量企业成长发展的重要体现之一,学者们对其进行的研究从未间断过。相较于发展阶段已处于成熟期的企业,新创企业的运营管理机制还不够完善,CEO在企业中更易掌控“话语权”以及“自由裁决权”,对企业绩效的影响更加显著。本文将企业绩效作为切入点,探讨作为新创企业高管层核心的CEO对企业绩效产生的影响。本文在探讨CEO权力对企业绩效的主效应之外,引入CEO的社会连带作为二者的调节变量,分