切换网络分布式Push-sum无梯度算法

来源 :安徽理工大学 | 被引量 : 0次 | 上传用户:momoww
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,伴随着网络、通迅、计算机等技术的快速发展,分布式优化研究课题备受学者们关注,尤其是大数据时代的到来给分布式优化算法提供了新的研究课题。多个体网络是由众多个体通过信息通讯耦合成的网络化系统,其中每个个体均具有感知、处理和通迅的能力。分布式优化目的是要求网络中各个个体团队合作解决网络中各个目标函数之和的最小值问题,其优点不仅能有效节约企业或公司中的投资成本而且具有极强的鲁棒性。但现实中,很多通迅条件都会影响个体间信息通讯,如切换非平衡网络、个体目标函数次梯度计算复杂或者通迅通道故障等约束条件,因此目前研究切换网络下分布式优化算法意义重大。  本文主要解决多个体网络中所有个体通过相互协作来寻求各个个体目标函数之和的最小值问题,其中每个个体仅知其自身目标函数且仅可以与其邻居个体交互信息。针对个体目标函数次梯度计算复杂和不存在情况,以及对个体间信息通讯出现的其它复杂问题进行深入研究。本文包括两部分主要内容:  一、针对多个体网络中个体间信息通讯常会出现数据丢包、个体目标函数通常是非光滑及单变量信息通迅具有一定局限性等问题,提出数据丢包情形下分布式无梯度Push-sum算法。通过增加虚拟节点进行系统扩维,为此建立一个有限的非均匀的马尔可夫链,这意味着与网络拓扑相对应的权矩阵为列随机矩阵而无需双随机矩阵,因而网络拓扑是切换非平衡的。并利用遍历性系数的结论理论上验证了算法的收敛性,其中误差值与高斯近似函数的光滑参数、目标函数的lipschitz常数成正比。故有效解决了数据丢包及个体目标函数次梯度计算复杂的分布式优化问题。  二、针对多个体网络中所有个体在同一时刻进行信息通迅使得信息量巨大致使信息拥塞或网络坍塌的情况频繁发生的问题,提出分布式流言Push-sum无梯度算法来解决上述问题。个体选择邻居进行信息通讯的过程均服从一个泊松分布时钟的转动规律,时钟每转动一次代表与选择的邻居信息通讯一次。接着在网络连通和迭代步长下降的基础上证明了所提算法具有收敛性。最后,通过MATLAB软件分析得出的图像验证了所提算法理论结果的有效性。  综上,本文在网络连通和权矩阵为列随机矩阵情况下,理论上证明了数据丢包情形下分布式无梯度Push-sum算法的收敛和分布式流言Push-sum无梯度算法的收敛,从而有效的解决了数据丢包、目标函数非光滑、单变量通讯和同步信息通迅的复杂问题。最后通过MATLAB软件得出的图像结果显示:多个体网络中个体间单(双)变量进行信息通迅并不影响算法的收敛性,仅是在此问题上双变量信息通迅比单变量信息通讯收敛速度快。
其他文献
在这篇文章中,主要研究帕累托分布的形状参数α的估计问题。研究分两种情况:(1)尺度参数c已知时α的估计(2)尺度参数c未知时α的估计。由于c已知时对形状参数α的估计已经有人
随着高等院校的不断扩招,学生规模越来越大,党中央对高校大学生中党员发展工作提出了 新的、更高的要求,因此,高校从事学生党建工作的党务工作者任重而道远。本文就当前高校
学位
本文主要研究了两大类具CTL免疫应答的HIV感染模型,共由四章组成:  第一章主要介绍了艾滋病研究的背景、意义及进展情况,并简单介绍了本文的主要工作。  第二章引入了Hol
学位
偏正态分布是正态分布的一种推广,它是由Azzalini于1985年提出的一种既保留正态分布的特性又包含单峰偏度的分布.在实际应用中我们通常假设某些模型的测量误差服从正态分布,
数学操作在国内外各级数学竞赛中已经是较为常见的题型之一.这些问题的规则通常无法表达为明显的递推关系,使得问题的解决往往不需要很多数学知识,但却具有灵活性和技巧性,加之
近年来,随着统计遗传学的迅猛发展,人们对寻找合适的定位多个QTL的统计方法的关注度越来越高.多区间定位(MIM)法是一种可以同时定位多个QTL与估计上位性的方法,但是这种方法通常
本文主要研究了W2,p(Ω)∩W1,pO(Ω)空间中具有Navier边值问题的p-双调和方程解的存在性及多重性,全文共分三部分:  第一章,介绍了p-双调和方程的背景、本文的主要内容及预备
由于随机微分方程能够对自然界的现象进行很好的描述,使得其在人工智能及航天等高新技术中起到了重要作用。例如,随机微分方程可解决滤波问题、Dirichlet问题、最优停时问题以