非凸优化问题的两类广义交替方向乘子法

来源 :广西大学 | 被引量 : 0次 | 上传用户:lanrenlaopan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
非凸优化是非线性规划的重要课题之一,其应用的背景十分广泛,比如,统计学习,图像处理,信号恢复,机器学习等.本文主要研究线性约束非凸两分块优化问题,基于问题的结构和其特殊的性质,设计两类新型的广义交替方向乘子方法,并在合适的条件下分析了新算法的收敛性.本文主要研究内容及贡献如下:1.提出增量聚集邻近广义交替方向乘子法求解非凸两分块优化问题,其目标函数的光滑部分由多个光滑函数的组成.但是针对大规模问题,光滑子问题直接采用梯度下降方法求解,计算负担重,为降低计算成本,结合增量梯度方法的思想,每次迭代只需计算部分函数梯度来逼近原梯度.另一方面,基于Kurdyka-?ojasiewicz性质,分析了算法的强收敛性.为验证算法的有效性,将算法应用于稀疏逻辑回归问题.2.提出惯性Bregman广义交替方向乘子方法求解非凸两分块优化问题.在每次迭代中,通过对两个子问题选择合适的Bregman距离,简化子问题求解.结合惯性技术,进一步提高算法的数值表现.在合适的条件下,分析了算法的收敛性.最后,通过信号恢复和SCAD罚问题的数值实验来验证其有效性.
其他文献
非光滑优化是最优化研究的一个重要分支,广泛应用于计算机视觉、信号处理、数据挖掘、工程设计、机器学习等实际领域.由于非光滑函数的解析性差,不具备连续可微性,故非光滑优化的研究难度要显著大于传统的光滑优化.非光滑优化研究的核心内容之一是设计理论性质好、收敛速度快、数值效果稳定的数值求解方法.切比雪夫中心割平面法是求解非光滑优化的一类有效方法,是经典割平面法的一种改进形式,具有优良的理论性质和数值表现.
学位
近年来,满足一定对称性的图被进行了广泛的研究,尤其是在对称图分类方面.1993年,Praeger证明了任意一个2-弧传递图Γ是一个与Γ有相同度数的商图Γ’的覆盖(这样的商图可能是Γ或者比Γ的顶点数更小),且在商图Γ’的自同构群中有一个群H满足Γ’是(H,2)-弧传递的,其中H的任意一个非平凡正规子群在Γ’的点集上至多有两个轨道.若H的每一个非平凡正规子群在VΓ’上只有一个轨道,则称H在点集VΓ’上
学位
在有限群论的研究中,利用子群的广义正规性刻画有限群的结构是一个有趣的研究课题.本文对c-正规子群和BNA-子群进行推广和统一,提出了弱BNA-子群的概念,借助这一概念给出有限群为p-幂零群或者超可解群的一些相关刻画,并将研究结果推广到饱和群系中.具体来说,本文的研究内容如下:(1)研究了有限群的Sylow子群的极大子群的弱BNA-正规性对有限群结构的影响.利用有限群G的Sylow子群的极大子群的弱
学位
分块优化问题广泛出现在实际应用中,如压缩感知和图像处理等.基于凸优化问题的一阶动态系统的研究,发现从微分方程的角度研究优化算法,不仅有助于理解算法的本质,而且也为算法的收敛性分析提供了有效工具.本学位论文主要探究动态乘子交替方向法求解线性约束可分凸优化问题的相关理论.首先,考虑一般线性约束两分块凸优化问题.构造了一个离散情形为经典乘子交替方向法的动态系统,利用Cauchy-Lipschitz-Pi
学位
当处理复杂决策问题时,群体智慧往往被认为优于个体智慧,群体决策就是从参与决策的群体中提取智慧的过程,涉及到决策信息的收集、表征、综合和最优方案的选择。本文以非互反判断矩阵为基础,通过提出一致性指标量化判断矩阵的不一致性程度,建立基于一致性程度和群体共识度的最优化模型,采用粒子群优化算法模拟群体决策的动态讨论过程,构建算法求解群体决策问题,主要的研究工作和创新点如下:(1)建立了基于非互反积型判断矩
学位
拓扑动力系统研究的是拓扑群在拓扑空间上的定性性质,而动力系统的核心问题是点的轨道的渐近性质或拓扑结构.本文研究传递与极小群作用下的周期分解.传递性反映了动力系统的某种不可分解性,具体地说,传递系统不能分解为两个相交内部非空的子系统.我们在第三章中证明了传递群作用下的系统对于有限指标正规子群存在一种特殊的分解,即将系统分解为若干正则的闭集,这些闭集的个数整除正规子群的指标,闭集之间的交是无处稠密的且
学位
随着经济全球化的不断发展,越来越多的医疗产品涌入中国市场,国际交流与技术合作日益密切。在国际交流中,英语作为世界的通用语言,扮演着越来越重要的角色,也为世界经济的交流搭建了桥梁。技术产品的手册及其说明书在交流合作中的作用日益突出。尤其是医疗器械说明书的翻译对用户的购买意愿和生命安全影响重大,其翻译的准确性与规范性直接影响着医疗器械在临床使用中的有效性和实用性。目前学界在医疗器械说明书的翻译实践取得
学位
粗糙集理论是处理模糊和不确定性知识的有效工具.近似空间是粗糙集理论的基础.模糊概率近似空间是一类特殊的近似空间,它包含模糊性、随机性和粗糙性三种不确定性,可以克服传统粗糙集及其模糊推广理论忽略概率分布所造成的信息缺失.本文研究了模糊概率近似空间及其不确定性度量.首先介绍了模糊概率近似空间的概念.在此基础上,定义了概率分布诱导的两种模糊关系(即*-模糊关系和◇-模糊关系).据此归纳出两类模糊近似空间
学位
本学位论文讨论了 一类带有对数项的临界问题的正解的存在性,其中Ω是RN内有界光滑区域λ,μ∈R,N≥3,2*=2N/N-2是H01(Ω)嵌入L2*(Ω)的临界Sobolev指标.由于对数项slogs2符号的不确定性,使得这个问题更加有趣.我们将证明:如果N≥4,λ∈ R和μ>0,上述问题都有一个山路解,它也是一个正的基态解.同时,还证明了:如果N=3,且λ,μ满足某些假设,那么它有一个正解.结合文
学位
相位恢复是指从复值信号的强度测量值或者幅度测量值恢复其本身,其拥有很强的应用背景,比如光学,量子力学,天文学等领域.而相位恢复之所以应用如此广泛,是由于现有的技术无法直接表征频率过高的信号(如超短脉冲),需要采用相位恢复来表征信号.随着超短脉冲宽度越来越小,功率峰值越来越高,超短脉冲在高能物理,飞秒化学,通信等领域有着广泛的应用前景,但是其表征技术一定程度上制约了其进一步发展.目前,频率分辨光学开
学位