网络化系统中的分布式一阶优化理论与应用研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:zhengjiaxun2010
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工智能及其相关领域的不断融合与发展巩固了以大数据为核心的信息化时代进程,这导致传统集中式优化方法受到了数据爆炸、数据结构日趋复杂、分布式硬件框架深化等客观因素的巨大冲击与深刻影响。因此,以并行计算和分布式存储为核心的分布式优化算法近年来受到了广泛的关注与应用。相较于传统集中式优化方法采用一个中心节点来协调和控制整个网络化系统的计算与通信,分布式优化方法首先将大规模优化问题分解成一系列可和的子问题。然后,将子问题分配给多个节点,通过节点之间的保密协作求解原优化问题。因此,分布式优化方法可以极大程度地减轻中心节点的计算负担,提升网络化系统的优化控制效率与鲁棒性。相较于以Hessian矩阵(二阶梯度法)或零阶函数信息(零阶梯度法)设计的分布式优化算法,以一阶梯度法为基础设计的分布式优化算法仍然是求解机器学习、信号处理、协同控制、能源调度、状态估计等领域优化问题的主流选择。这主要得益于一阶梯度法消耗更少的计算、存储、通信资源,同时应用和获取方式更简单。近年来涌现了诸如:EXTRA、ADD-OPT、Push-DIGing、Push-Pull、DSA、GT-SAGA/GT-SVRG等优秀的分布式一阶优化算法。但是如何在有向非平衡(有向)网络环境下设计高效率、低计算成本的分布式优化算法是许多研究者关注的重点、难点和热点问题。鉴于分布式一阶优化方法在算法性能和资源消耗上体现的显著优势,本文将针对实际应用场景中的大规模优化问题和复杂通信网络环境,设计高性能、强鲁棒性、低计算成本的分布式一阶优化算法,主要研究内容概括为以下四个方面:(1)在动态网络强连通的假设条件下,TV-AB算法是基于行和列随机权重矩阵设计的时变有向网络下分布式一阶优化算法。然而,由于TV-AB算法采用常数步长,导致算法存在全局参数,因而该算法并不能实现真正意义上的完全分布式运行。并且,由于理论分析的缺憾,研究人员并没有从理论上给出TV-AB算法收敛时步长的取值范围。鉴于TV-AB算法存在的以上问题,本文通过引入非协作步长和动量参数,Nesterov加速机制和“重球”加速机制,设计了时变有向网络环境中的双加速算法,并且基于线性系统动态不等式理论分析方法严格解析出了当算法收敛时的最大步长与动量参数的取值范围。仿真部分通过分布式求解最小二乘、逻辑回归、支持向量机等机器学习和信号处理常见问题验证了算法的高效性。(2)考虑通信网络中可能存在的噪声,通过引入噪声梯度,SAB算法是第一个可以应用于任意有向网络的分布式一阶随机优化算法。虽然SAB算法可以应用于含有噪声的有向网络下,但是该算法仍然具有很大的加速潜力。因此,通过引入Nesterov加速机制,本文基于行和列随机权重矩阵设计了能应用于有向网络的分布式一阶随机优化算法。仿真部分通过应用所提出的算法解决在线岭回归问题和逻辑回归问题验证了算法的加速特性和抗噪声能力。(3)在一阶批量梯度下降领域,基于有向网络设计的分布式优化算法在理论上需要选取“充分小”的步长才能保证算法收敛,这种遗憾是由于保守的收敛分析过程造成的。于是,本文通过引入基于Barzilai-Borwein(BB)方法的自适应步长,并结合梯度追踪机制和行随机权重矩阵,开发了一种能应用于有向网络简记为ADBB的分布式一阶梯度优化算法。值得提及的是,本文不仅从理论上证明了ADBB算法在实现全局最优解时,允许各节点自主选择相较于现有同类型算法更大的步长,从而达到了去除“充分小”步长选取的理论缺陷,而且实验结果显示ADBB算法在实现全局最优解时需要更少的梯度计算量、迭代次数以及通信成本。(4)在一阶随机梯度下降领域,如何消除分布式随机优化算法对常数步长等全局参量的依赖,是分布式随机优化算法向完全分布式迈进的一个重要问题。除此之外,全局参数造成的额外通信和协调成本也是影响分布式算法优化控制效率的重要因素。因此,本文基于非协作步长和方差缩减技术,设计了有向网络环境下的分布式一阶随机梯度优化算法,并通过基于分布式逻辑回归和分布式最小二乘的仿真验证了算法的有效性和应用价值。综上,本文主要针对人工智能领域的大规模凸优化问题,基于一阶梯度法设计了一系列高效和实用的分布式一阶优化算法。本文的研究成果将拓展分布式一阶优化理论研究和应用场景,为复杂网络环境下高性能分布式一阶优化算法的分析与设计提供新理论、新技术和新工具。
其他文献
玉米是中国的主要作物,种植面积为1600万公顷,产量约2.16亿吨。作为主要谷类作物之一,玉米种植对提高中国粮食综合生产能力起着重要作用。在中国种植的谷类作物中,玉米的种植面积居首位。然而,自2019年以来,入侵性害虫鳞翅目夜蛾科草地贪夜蛾Spodoptera frugiperda(J.E.Smith,1797)已成为许多地区玉米上最具破坏性的害虫。自发现以来,草地贪夜蛾已经严重威胁了玉米以及水稻
《刑法修正案(九)》增设帮助信息网络犯罪活动罪,是对信息网络犯罪帮助行为独立入罪规定。该罪的成立应以“明知他人利用信息网络实施犯罪”为前提。本文专门讨论“明知他人利用信息网络实施犯罪”的认定问题。本文第一部分对“他人利用信息网络实施犯罪”以及“明知”的认定过程中存在的问题进行阐释。理论界对“他人利用信息网络实施犯罪”中的“犯罪”主要存在四种解释。其中,“严格解释说”和“例外说”均认为应当将其限定为
由于在军事、工业生产等领域中的广泛使用,多智能体系统的一致性问题已成为近年来控制领域的研究热点之一。脉冲控制作为一种不连续控制策略,由于其具有降低控制成本、提高控制效率和增强鲁棒性等优点,且在实际操作中易于实现,已广泛应用于多智能体系统的稳定性和一致性问题的研究中。然而,在实际的控制问题中,由于执行器受到能量、空间或特定执行器结构的物理约束,使得执行器饱和是一个不可忽视的问题。如果在控制器设计中忽
围食膜(peritrophic matrix,PM)作为昆虫中肠内抵御外源病原物的第一道防线,是昆虫体内防御系统的重要部分,是一种主要由几丁质和蛋白质组成的半透性膜。围食膜因子是围食膜中重要的结构蛋白,研究其在抵抗外源病原体过程中的作用具有重要价值。家蚕是具有重要经济价值的鳞翅目昆虫的代表,具有多种突变体和完善的基因组数据库,这为研究家蚕幼虫围食膜在抵抗核型多角体病毒(Bombyx mori nu
近年来,由于在信号处理、模式识别、优化和记忆存储等许多领域的应用潜力,人工神经网络的动力学行为受到越来越广泛的关注。然而,为人类的神经系统这样一个复杂的结构进行建模,以获得一个具有类似于人类智能的系统是比较困难的。通过分析神经元的组织及其相互作用原理,提供一个合理的数学模型,这种方法是人工神经网络理论的延续。描述单个神经元的动力学行为对于理解它们对人工神经网络功能的贡献是至关重要的,因此对单神经元
心脏疾病是造成人类死亡的主要原因之一,其发病率仅次于癌症,特别是由于冠状动脉阻塞而导致的心肌梗死(Myocardial infarction,MI),常造成心肌细胞(Cardiomyocytes,CMs)的不可逆损伤或死亡。由于出生后CMs的再生能力很差,目前对于MI仍无有效的根治方法。移植外源性CMs治疗MI需要大量的细胞,容易造成免疫排斥反应,且细胞来源受限。胚胎干细胞(Embryonic s
学位
家蚕(Bombyx mori)由古代野桑蚕经长期驯化而来,在我国是十分重要的经济昆虫以及研究鳞翅目昆虫的重要模式生物。家蚕是一种完全变态昆虫,完整的家蚕一生经过卵期、幼虫期、蛹期、成虫期四个发育阶段,其形态差异巨大且生理机能也完全不同。在家蚕的生长发育和变态过程中,主要依靠由咽侧体合成的保幼激素(Juvenile hormone,JH)与前胸腺合成的蜕皮激素(20-hydroxyecdysone,
学位
热应激极大的损害了雄性动物的生殖能力。支持细胞是睾丸中具有重要功能的一种体细胞,容易受到热应激的损害。精氨酸作为一种功能性非必需氨基酸,在促进仔猪生长发育过程中必不可少,同时精氨酸及其代谢产物在细胞过程和信号传导中起重要作用。然而,尚不清楚精氨酸及其代谢产物是否参与了热应激诱导的睾丸支持细胞的凋亡。本试验利用体外热应激模型,旨在探究精氨酸是否参与热应激诱导的支持细胞的凋亡,并探讨精氨酸及其代谢物在