【摘 要】
：
镜面下降法(MD)在机器学习问题中已有些实际应用,针对大规模数据的处理和非光滑损失凸优化问题,本文将迭代平均与随机次梯度镜面下降方法相结合,得到了一种改进的方法,通过对
【基金项目】
：
国家自然科学基金(11461013),贵州省公共大数据重点实验开放课题项目(2017BDKFJJ012)
论文部分内容阅读
镜面下降法(MD)在机器学习问题中已有些实际应用,针对大规模数据的处理和非光滑损失凸优化问题,本文将迭代平均与随机次梯度镜面下降方法相结合,得到了一种改进的方法,通过对问题域的特殊处理,利用它们的结构,提出一种加权平均的随机次梯度镜面下降算法。在这个加权平均过程中,平均迭代不用于构造算法,而是作为算法的副产品出现,其中平均权重由算法使用的步长确定。该算法有很好的收敛性。对于强凸函数,我们证明了该算法的最佳收敛速度达到? ?? ?? ?o 1k。
其他文献
本文利用上下解与伪单调算子方法讨论一类p-Laplace方程的Dirichlet问题解的存在性问题。
近年来，我国经济得到快速发展，工业化、城市化进程逐步加快，能源的可持续发展已经成为我国发展的重要方向之一，科技的不断进步，研发出了许多利于能源有效进行利用的科技，比如催化剂
随着当前各国经济的不断发展，地球上的资源越来越短缺，而环境的污染问题却越来越严重。污染问题最为严重的就是燃煤电厂所排放的废气，如果不采用先进的技术进行处理，就很容易会导
通过实例给出了求解一类满足给定条件的可微函数的解析式的方法和步骤。
遍历性是遍历论中的基本概念之一,遍历分解定理告诉我们任何一个不变测度都可以表示成一些遍历测度的积分。本文对一类具有遍历根系统的保测变换的遍历分解给出了一个简单的
利用E. Zeidler不动点定理,证明了将Krasnoselskii不动点定理中的单值映射A推广到集值映射的情况下算子A + B的不动点的存在性。
染色问题是图论中的著名问题,目前已有人用Groebner基方法解决了染色问题,本文另辟蹊径用吴方法来解决染色问题。吴方法又称特征列方法,是吴文俊于20世纪70年代提出的处理多
本文通过Ψ(x)的n阶导数,给出了广义Ramanujan常数R(a,c-a)=-2γ-Ψ(a)-Ψ(c-a)的不同类型的级数展开式,这些级数展开式可以改进R(a,c-a)的一些已知结果。
为进一步探索有限幕零群的结构, 利用H - 子群的norm ,给出了有限亚幕零群的一个新的等价刻画。
<正> 把经济收入等同于经济效益,我认为这种说法错误有二: 其一:概念混淆。经济收入和经济效益是有明确区别的。经济效益是指“以尽最少的活劳动消耗和物质消耗,生产出更多符