【摘 要】
：
机器学习中样本是独立同分布的假设在实际应用中往往是不成立的,有偏的梯度估计会导致优化算法的收敛界随迭代累积偏差的情形。另一方面,个体直接输出具有更好的稀疏性,如何
【机 构】
：
中国人民解放军陆军炮兵防空兵学院信息工程系,中国人民解放军陆军炮兵防空兵学院基础部
【基金项目】
：
国家自然科学基金(61673394)
论文部分内容阅读
机器学习中样本是独立同分布的假设在实际应用中往往是不成立的,有偏的梯度估计会导致优化算法的收敛界随迭代累积偏差的情形。另一方面,个体直接输出具有更好的稀疏性,如何确定算法最优的个体收敛界不会随着噪声干扰而不收敛于任何精度既是当前研究的热点问题也是机器学习优化在现实应用中面临的主要挑战之一。本文首先给出对偶平均方法收敛性的一种简洁证明,进而在梯度估计有偏情形下,求解得到了一种线性插值对偶平均随机优化方法不累积偏差的个体收敛界,确保了这种优化方法求解正则化损失函数问题的个体收敛精度。最终实验验证了理论分析结果的正确性。
其他文献
宾夕法尼亚大学毕业的第一代中国建筑师不仅把他们在宾大接受的"学院派"体系的教育带到了亟需建设的中国,设计了一系列改变了近代中国面貌的折衷主义的建筑,而且他们也通过自
"印象派"音乐作为一种国际性乐派,其影响在20世纪前30年盛极一时.德彪西在其音乐作品中集中体现了印象主义风格.在今天看来,印象主义所涉及的范围相对较小,似乎只是一个人(德
针对原有模型绘制的矿山地质构造剖面图分辨率较低的问题,提出矿山地质构造的三维可视化模型构建研究。选取密度、视磁化强度等矿山地质构造数据作为原始数据,利用空间体元的
采用光学显微镜、扫描电镜和透射电镜对双层卷焊钢管高温退火前后的显微组织、析出相和位错进行研究,探讨双层卷焊钢管的退火软化机理。结果表明,高温退火有效改善了双层卷焊
对某一中高端砂铸企业发货质保流程存在的问题进行了研究,提出仿真和优化相结合进行流程优化的方法。该方法用Flexsim对该企业原有流程进行仿真分析,根据ECRS原则对原有流程
从学术生态这一机关报视角,新命题来看,高等教育的发展除有赖于必要的资金,人力和物力外,还需要成熟的学术生态环境.我国改革开放以来新建大池所暴露的问题,表演明当前重视和
<正> 禽流感与新城疫是严重危养鸡业的烈性传染病。禽流感可因病毒的毒力、家禽的品种及家禽的健康状况以及免疫情况不同,而有从无症状的隐性感染,轻微的呼吸道感染,到100%死
为进一步了解山东省性病规范化诊疗服务现状,对参加2019年省级性病培训班及5个市级培训班的临床医生进行问卷调查。共调查了311名医生,其中192(61.7%)的医生在3年内参加了省
目的探讨小腿软组织缺损合并受区血管损伤无法作为供血血管时游离皮瓣移植的解决办法。方法设计以健侧胫后血管为轴心的舌形皮瓣,卷成皮管,作为血管蒂而携带游离皮瓣移植修复
中国工程机械行业在2011年度过了不平凡的一年，从第一季度的销售额爆炸式增长，到第二季度开始至年底的行业各产品的销售情况逐步下滑，为新的一年带来了更多的挑战。2012年，行业企