非平衡有向网络的分布式优化算法

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:meljl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为自主智能无人系统的一个重要研究方向,分布式协同控制近年来吸引了社会的高度关注。其原因在于,数据样本往往分散在大规模的网络中,而分布式控制能很好地胜任这种网络结构。在分布式框架下,个体通过利用本地数据以及与其邻居进行信息交互来做出决策,从而使整个网络实现特定的目标。因此,分布式算法与传统的集中式控制算法相比具有很多优势,包括更低的成本、更高的灵活度、更强的鲁棒性、更好的可拓展性等等。很多实际问题可以在分布式优化的框架下得以解决,比如大规模机器学习、智能电网的分布式经济调度、编队控制、传感器网络的分布式估计等。这些应用需要人们设计出完全分散化的算法,使得网络中的个体仅通过本地计算及与其邻居个体交互信息从而合作地优化一个由局部目标函数之和所构成的全局目标函数。本论文主要关注于分布式优化领域一个富有挑战性和实际意义的情形,即网络中节点间的信息交互建模为一般的非平衡有向图。在针对时不变的目标函数提出分布式优化算法后,进一步针对局部目标函数以不确定或对抗的方式发生变化这一动态场景,研究了分布式在线优化问题。论文的主要内容和贡献总结如下:第二章考虑了非平衡有向网络中带有局部状态约束的分布式优化问题。针对此问题,通过利用相邻时刻次梯度信息的差值以及次梯度项尺度变换技术,提出了一种基于一致性协议的分布式优化算法。该算法只要求邻接矩阵为行随机矩阵,这意味着网络中的每个节点不需知道自身的出度即可独立地为所接收的邻居信息赋予权重。重要的是,该算法允许节点被限制在不同的凸集中,这具有更强的实际意义,但同时导致针对不同局部约束集所进行的投影操作将会给算法的收敛性分析带来很大挑战。在常规假设下,严格地证明了所设计的算法能够保证每个节点的状态最终收敛到优化问题的全局精确最优解。数值仿真结果显示本章所设计的算法与相关算法相比具有更好的收敛性能。第三章考虑了通信能力受限情形下非平衡有向网络中的分布式优化问题。为了减轻网络的通信负担,针对强凸且光滑的代价函数设计了一种新颖的量化分布式梯度跟踪算法Q-DGT。与现有基于次梯度的量化分布式优化算法不同,量化机制不能直接融入到分布式梯度跟踪算法DGT中。其原因在于直接融合后的算法会产生随时间而不断累积的量化误差,从而导致算法的线性收敛性能得不到保证。通过精心设计,Q-DGT对量化误差具有很好的鲁棒性,并且继承了DGT及其变体算法的线性收敛性能。重要的是,与DGT算法相比,Q-DGT不需要计算局部代价函数的初始梯度。我们给出了能避免量化饱和的动态自适应量化水平更新规则。通过分析该规则,进一步给出能保证算法线性收敛性能的固定量化水平。最后,将所设计的算法应用于传感器网络中的岭回归问题来验证其有效性。考虑到分布式优化发生的场景常常是动态的,原始的分布式优化算法在这种情形下就不能适用。因此,需要将分布式优化算法推广到在线优化的情形,特别地,局部目标函数随时间而变化并且只有当个体做出决策之后该函数才会被激活。第四章研究了隐私保护情形下非平衡有向网络中带有状态约束的分布式在线优化问题,其中邻接矩阵仅被要求为行随机矩阵。为了解决这个问题,在没有引入第三方权威平台的情形下提出了差分隐私分布式在线优化算法来保护节点的隐私信息。在常规假设条件下,对于强凸的代价函数,严格地证明了算法的静态Regret界限对时间窗T的平均以O(log T/T)的速度渐近收敛到0;更进一步,通过采用Doubling Trick机制移除了算法对时间窗具体数值的依赖,并且对于一般的凸代价函数,证明了所提算法的静态Regret对时间窗的平均以O(T-1/2)的速度收敛到0。这些结果揭示了算法在隐私保护水平和求解精确度之间存在一个平衡,而且所得到的静态Regret界限与现有的相关理论结果相吻合。最后,将所提算法应用到传感器网络的定位问题中验证了算法的有效性。第五章研究了在无法获得精确次梯度信息情形下时变非平衡有向网络中带有状态约束的在线分布式优化问题。与现有文献中算法依赖双随机权重矩阵和精确次梯度值不同,我们基于一致性协议设计了一种新颖的分布式在线优化算法,该算法通过动态地构造行随机矩阵并且对零阶梯度信息进行尺度变换,以处理时变有向网络中的信息传递不平衡性及消除对次梯度信息的需求。在一系列常规条件下,度量了所提算法的动态Regret界限。结果显示,当时变最优解的累积变化以一定的速度次线性增长时,动态Regret对时间窗的平均将以次线性的速度渐近收敛到0的一个有界区域,并且这个区域的大小与算法中的参数有关,因而可以被控制。更进一步,给出了当次梯度信息可以获取时对应的动态Regret结果,结果揭示了所提出的免次梯度算法在本质上并没有因为利用零阶信息替代真实次梯度信息而削弱算法的收敛性能。最后,将所设计的算法应用到传感器网络的动态追踪问题中验证了算法的有效性。
其他文献
足式机器人的平衡控制是其走向实用化的先决条件,近年来对平衡控制问题的研究目标已从完成确定环境内的动作,过渡到如何在未知、不确定环境内获得对环境扰动具有强鲁棒性的自稳定能力。现有的平衡控制以基于动力学模型的控制器为主,虽然随着机器人本体驱动能力、响应速度等指标的提高取得了相当成功的实验结果,但仍难以从根本上解决对未知、不确定环境的适应问题。针对现有平衡控制器在设计阶段只考虑有限的扰动情况,导致对未知
非均匀环境上入侵种群的传播问题是当前的一个热点话题,不同的环境可能会产生截然不同的影响,如何从数学上来刻画环境的非均匀性对种群传播动力学的影响是一个有趣的数学难题。本文考虑一维周期格点环境,假设奇数格点对种群的生存是不利的,偶数格点是有利的。以此生态背景为前提,推导出一个非均匀环境上具阶段结构的种群模型,然后在不同情形下,研究了该模型的动力学性质。首先,当模型具有单稳定结构时,分析扩散系数对种群传
与传统光电子器件相比,柔性电子器件具有超薄透明、轻质便携、柔性可弯曲等优点。随着柔性电子技术的发展,人们致力于开发多样化、多功能性的柔性器件。将形状记忆聚合物(SMPs)与柔性电子技术相结合,能够丰富柔性电子器件的多功能性,同时也拓宽了形状记忆聚合物的应用领域。本文首先研究了一种兼具高透光性、高耐热性的形状记忆聚酰亚胺薄膜材料(TSMPI),然后以TSMPI作为柔性透明基板,制备了两种透明电极:嵌
并网换流器作为连接分布式发电系统与传统电网接口,在电力系统中发挥重要作用,但也带来新的挑战。并网换流器使用高阶滤波器并具有较高的控制带宽,可能会引发稳定性问题。更为严峻的是,换流器越来越多接入到弱电网中。相比于理想电网,弱电网由于远距离输电线路等原因,具有较高的电网阻抗,并且电网阻抗可能发生大范围变化。在弱电网中,换流器与电网阻抗之间的相互作用可能引发谐振。目前,实现并网换流器系统的稳定运行有以下
钢丝绳多尺度缺陷检测是指不同损伤类型的判别和损伤的截面损失、位置、分布、锈蚀等级等定量指标分析,其目的是为钢丝绳强度的评估提供更准确的量化参数。目前钢丝绳电磁检测技术仍存在局部型、窄宽度等小尺度缺陷定量检测困难和内部、锈蚀等复杂尺度缺陷难以判别的问题,严重制约了钢丝绳无损检测的发展和应用。本文以钢丝绳多尺度缺陷检测的需求为基础,针对现有检测技术中的问题进行深入分析,采用多传感器融合技术,设计多种定
在某些特殊的气候条件下,空气中的过冷却水滴碰撞在输电线路的导线表面后,会冻结形成覆冰,这种现象即为输电线路覆冰。严重的覆冰灾害会引起塔杆倒塌和线路断线等事故,威胁输电线路的安全运行。因此,研究输电线路的覆冰形成机理,实现根据环境和线路参数来预测覆冰的增长速度,并结合融冰时间和融冰电流的计算,制定合理的覆冰防治策略,是降低覆冰对线路危害的重要手段。水滴在输电线路周围受外力作用产生运动轨迹变化,进而影
地球静止轨道(Geostationary Orbit,GEO)卫星具有对地覆盖区域广、星下点轨迹固定等特殊性质,在通信、导航、气象、对地观测、军事预警等民用和军用领域有着广泛应用。然而,失效卫星、火箭上面级、空间碎片等不受控目标占据了大量GEO轨道资源,对在轨航天器的安全运行构成严重威胁。为保证空间资产的安全,空间编目、燃料加注、轨道清理等在轨服务类项目得到了各航天大国的高度重视。由于GEO目标卫
随着第三代测序技术的不断发展,第三代测序数据在基因组组装、结构变异检测、全长转录本识别等领域得到了广泛的应用。序列比对作为第三代测序数据分析工作流程中最基础、最关键的步骤,一直都是当今生物信息学领域最重要的计算机科学问题之一。面对日益增长的海量测序数据,现有第三代测序数据比对工具在比对速度、准确性和敏感性等方面已经无法满足各类分析工作的比对需求,成为了阻碍基因组科学领域进一步发展的主要因素。本文全
圆环板类高速旋转机械如高铁车轮、齿轮、汽轮机转子等近年来在国民经济中的地位越来越重要,而这些机械在运行过程中受到机械、气动、温度场甚至磁场等多种外载荷的单独或者综合作用,会产生由横向振动引发的噪声。强烈的噪声会严重影响人们的正常生产、生活以及交通工具的乘坐舒适性。然而现有关于旋转圆环板类构件的研究主要集中于其稳定性问题,而对于其振动噪声问题研究较少,因此,开展针对旋转圆环板类构件的振动噪声问题研究