基于有向图和量化机制的分布式优化算法

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:sadlyiwas
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
有线和无线通信技术的最新进展导致了大规模多智能体网络中的分布式优化算法得到了广泛的关注.与传统的集中式优化算法相比较,分布式优化算法不需要将数据传输到中央智能体,只需要与邻居智能体进行信息交互,有效地保护了数据的隐私,且由于通信网络结构不依赖于中央智能体,网络的可扩展性得到了进一步增强.因此,分布式优化算法常常被用于解决大规模优化问题,如机器学习问题,智能电网调度问题,机器人的队形控制问题等等.在实际工程应用中,通信网络往往是具有单向传播性和带宽约束,本文综合考虑了这两种通信约束,提出了如下三种分布式优化算法.(1)针对有向图上目标函数为光滑函数与非光滑函数之和的形式的分布式凸优化问题,提出了常步长邻近梯度Push-Pull算法.相比于只能处理目标函数为强凸的Push-Pull算法,所提算法利用邻近算子处理不光滑项,放宽了对目标函数的要求,且同样达到线性收敛速度.为分析算法的收敛性质,将邻近梯度Push-Pull算法改写为带非线性反馈的线性系统.在光滑项为强凸的条件下,借助IQC框架和构建Lyapunov函数,用线性矩阵不等式分析算法的收敛性.基于这种数值分析的方法,可得到较为精确的收敛速度估计式.(2)针对时变有向图上具有通信带宽约束的分布式非光滑凸优化问题,提出了基于事件触发的量化随机无梯度投影算法.该算法结合了基于动态编译码的量化通信技术和事件触发技术,有效地降低了对网络通信带宽的要求并减少智能体之间的通信次数.在合适的量化器参数选择下证明了算法能以O(1/lnk)收敛到优化问题最优值的邻域,其邻域的半径由高斯光滑参数决定.(3)针对无向图上具有通信带宽约束的分布式非凸优化问题,提出了量化分布式随机梯度跟踪算法.在量化误差随迭代递减的条件下,证明所提算法可以达到与未量化的算法相同的收敛速度O(1/(?)).同时,结合具体的Moniqua量化方案,证明了在合理的量化参数选择下算法能实现收敛.最后,通过数值仿真对比和分析了所提算法和现有算法在二分类问题中的表现.结果表明,所提算法具有更快的收敛速度.
其他文献
近年来,计算机技术高速发展,高性能计算机器的数据存储能力和计算能力在不断增强,包括深度学习在内的各种机器学习方法得到了大规模的研究与应用.随着深度学习技术的不断发展,偏微分方程的深度学习数值方法逐渐兴起,不同于传统偏微分方程数值方法,深度学习数值方法易于移植,在高维情况下表现良好,在计算区域内可以得到连续近似解的特点使得众多研究者开始探索深度学习数值方法.本文利用深度学习数值方法,针对非线性Sch
学位
本文介绍了真映射生成的自由半群作用的非紧子集的三种拓扑熵的概念,这些概念扩展了Ju-Ma-Wang在[22]和Ma-Cai在[27]中的定义.本文主要内容如下:第一章介绍了与本文密切相关的拓扑熵的发展历史和研究背景,阐述了研究目的和主要结果,并给出了本文的概要.第二章给出了一些动力系统中的基本概念和记号等预备知识.在第三章中,利用C-P结构,引入了真映射生成的自由半群作用的拓扑熵、下容度拓扑熵和上
学位
自从Shamir和Blakley提出秘密共享的概念以来,秘密共享一直是信息安全和现代密码学中的重要研究内容.构建秘密共享方案的途径有很多,线性码因具有良好的代数结构,也是秘密共享方案的构建方法之一.线性码构造共享方案的思想是,将对偶码的极小码字与极小访问子集建立联系.但是,基于一般线性码的秘密共享方案的访问结构难以确定,所有极小码字已知的极小线性码因而成为目前研究的热点问题.本文通过选取定义集构造
学位
源于现实生活中的一些马尔可夫模型,比如交通网络、网页及电子商务数据排序等,往往拥有很大的状态空间,但是它们的状态转移矩阵实际上是低秩或者近似低秩的矩阵.本文将基于此类马尔可夫模型的状态转移轨迹来开展其状态转移矩阵的估计算法研究.首先,针对秩约束状态转移矩阵集合,设计了一个快速的近似投影公式.由此结合文献[60]中的谱估计算法,提出马尔可夫模型的低秩谱估计算法.该算法的估计矩阵是一个低秩的状态转移矩
学位
本文主要研究了紧致度量空间和局部紧可分度量空间中非紧集上错误函数下自由半群作用的拓扑压,主要内容分为下面两个部分:第一部分,在紧致度量空间上,我们分别用开覆盖和错误Bowen球的中心给出了非紧集上错误函数下自由半群作用的拓扑压的两个定义,并且证明了这两个定义是等价的.接着,我们给出本文第一个主要结果:非紧集上错误函数下自由半群作用的拓扑压与该子集上自由半群作用的拓扑压是相等的.最后,应用上面的定理
学位
Keller-Segel模型,是用于描述一种叫做盘基网柄菌的粘菌的聚合现象.该模型在生物学领域具有很强的应用背景.本文主要研究了一维Keller-Segel模型Cauchy问题和初边值问题解的整体存在性和大时间行为.具体地讲,对于Cauchy问题,我们证明了Keller-Segel模型解的整体存在性并在→∞时收敛到由Darcy定律得到的相应抛物型方程的自相似解,即非线性扩散波.对于初边值问题,我们
学位
本文主要研究三维全空间上拟稳态不可压缩Navier-Stokes-Fourier-Maxwell-Poisson方程在小初值情形下经典解的整体存在性和最优Lp(p ≥2)时间衰减率,并且给出了高阶空间导数的最优L2时间衰减率.为了处理线性化方程中Maxwell方程的退化所带来的电场方程的缺失,我们采用矢量分析的方法对电场E进行分解,最终得到u,B的Lp(p≥2)时间衰减率.由于Maxwell方程的
学位
近年来,随着引力波的实验观测和黑洞阴影照片的陆续发布,黑洞物理受到了人们的广泛关注。对黑洞的性质和物理机制的研究有助于检验和完善现有的黑洞理论,同时加深我们对宇宙的理解和认识。似正规模是表征引力扰动的第二个阶段的特征模态,有实部和虚部两个部分,本文的工作其中的一方面是研究旋转带电的Kerr-Sen黑洞的黑洞阴影半径和似正规模实部的联系。另外一方面我们分析了BTZ黑洞碰撞Penrose过程的最大能量
学位
浦肯野细胞作为小脑皮层动作电位的唯一输出,在运动协调中起着重要作用.本论文运用分岔理论和相平面分析方法,重点研究三维浦肯野细胞模型电位发放产生的丰富动力学现象.分岔结果表明参数的改变会导致放电节律的显著差异.此外解释了浦肯野细胞模型放电模式转迁的动力学机制.具体如下:第一章,简述本论文的研究背景和国内外研究现状.第二章,回顾分岔理论的相关概念,同时给出后续所需的研究方法.第三章,针对三维浦肯野细胞
学位
本文研究非自治动力系统的扩张测度的性质及其应用.首先简述了自治动力系统和非自治动力系统的研究背景,说明了研究非自治动力系统及扩张性的重要性,并介绍了在自治动力系统中扩张性的若干性质.因此可以在原有的基础上,研究非自治动力系统上相关的扩张性,从而加深对非自治动力系统的研究.以下是本文的主要内容,具体分为以下两部分:第一部分,我们在非自治动力系统上提出了正扩张系统和正扩张测度的定义,从分离集的最大基数
学位