【摘 要】
：
本文主要针对一阶随机优化方法中的SGD和拟牛顿法中的BFGS这两类重要方法开展研究,主要工作如下:通过引入基于计算图的虚拟梯度的定义,我们提出了一种求解随机优化问题的虚拟
论文部分内容阅读
本文主要针对一阶随机优化方法中的SGD和拟牛顿法中的BFGS这两类重要方法开展研究,主要工作如下:通过引入基于计算图的虚拟梯度的定义,我们提出了一种求解随机优化问题的虚拟梯度下降方法,简称SVGD方法,并分析了该算法的收敛性。新算法具有存储开销小,单步运算复杂度低等特点。深度学习等方面的大规模实验结果表明SVGD比其他常见的一阶随机优化算法具有更快的收敛速度。从而表明SVGD方法具有更高的运算效率。通过将动态子空间技术与BFGS更新算法相结合,提出了一种求解大规模无约束优化问题的数值方法,简称Fast-BFGS方法,并建立了相应的收敛性理论。Fast-BFGS方法与BFGS和L-BFGS方法在CUTE问题集上的实验结果表明Fast-BFGS方法具有存储开销小、并行模式下单步运算复杂度低、收敛速度快、适用范围广等优势。
其他文献
介孔二氧化硅纳米颗粒(MSNs)因其形貌规则可控、比表面积大、化学稳定性高、生物相容性好等优点,在生物传感、生物成像、基因或药物的靶向运输等领域都受到了普遍研究。此外,MSNs表面含有丰富的硅醇键,易于进行表面修饰,可连接多种功能化基团和活性分子,以进一步改善其在生物体系内的性能。MSNs与活细胞之间如何相互作用,尤其是表面修饰的功能化基团如何影响MSNs进入细胞的效率等问题,对于研究细胞的内吞机
目前,我国正在进行历史上、同时也是世界上最大规模的基本建设。与此同时,关于建设工程项目的质量问题却十分严峻,这给人们的生命财产安全带来了负面的影响,同时对有限的社会
笔者运用设计思维实现新的版画的“生成”机制:从建模语言的属性出发(未来感的、完美的、几何的、假的、“和无人性的”)——确定整体创作风格——确定相同材料属性方向并调研(材料的罗列)——根据不同材料的属性(未来感的、科技的等)和不同版种的属性提出如何实现印制的方法方案(材料的选取与搭配)——不断试错纠正(曾经尝试过的步骤的递进)——成形并运用实现图像属性与材料属性与版种属性的三者统一。笔者使用以目的为
在高分光学卫星影像的应用中,纹理发挥着十分关键的作用。然而,现存大部分研究对于纹理变量的优选以及相应输入参数的优化配置均未给予充分重视;混交度被用于表征混交林中树
近年来,随着人类基因组计划(Human Genome Project)完成,越来越多的研究者用全基因组关联分析(Genome Wide Association Study,GWAS)研究出很多简单疾病的遗传规律,为人类疾
通式为Re1-xAexMnO3（RAMO,Re表示稀土元素,Ae是二价碱土元素,如Ca、Sr和Ba等）的钙钛矿锰氧化物的合成和性能引起了国内外的广泛关注,这归因于它们在信息存储、磁传感器、磁制冷
作为当代戏剧的一面旗帜,罗伯特·威尔逊对二十世纪戏剧产生了重要的影响。本文以罗伯特·威尔逊的戏剧中冥想空间的塑造为主要研究对象,分四章进行论述。绪论部分介绍艺术家自身所处的时代环境对他的创作影响以及艺术家的个人生平经历,涉及到艺术家作品的研究文献综述。第一章介绍冥想空间和罗伯特威尔逊作品的关系。第二章主要举例罗伯特·威尔逊的戏剧作品,通过从作品中特殊表达方式出发,论述他的超慢速的动作,这些慢速的动
在政策与经济双重利好的新时代背景下,人民群众对艺术文化的关注与追求不断提高,博物馆的教育职能发挥着越来越重要的作用。因此,国内各大博物馆开始积极探索新的运营模式,通过对展览、藏品、人才等资源的深度整合与不同类型的社会资源要素进行深入合作,逐步构建起以艺术博物馆为中心的多元化合作的公共教育项目,这一现象引起了笔者的关注。拓展提升教育职能,形成多元合作的公共教育模式,满足不同受众群体的受教育需求,不仅
明清赏石文化达到全盛时期,赏石专著层出不迭,奇石题材逐渐成为独立的绘画题材。蒲华(1832-1911)是晚清海派的代表性画家,山水花鸟兼擅,作品题材广泛,其中奇石题材在其存世作品中占有很大比重,奇石题材给予蒲华广阔的笔墨表现空间,是蒲华艺术研究中重要的一个方面。本文以蒲华的奇石题材绘画作品入手,对作品进行梳理与深入分析,指出其奇石造型的“三角形结构”、“条柱形结构”,和所呈现出“尖峰”、“重头”、