【摘 要】
：
联邦学习是在不共享客户端数据前提下,通过所有客户端与服务器之间的多次交互建立联邦模型的机器学习方法。由于联邦学习支持客户端在不交换原始数据的条件下联合训练模型,因此成为图像分类领域的研究热点。本文主要针对现有集中式联邦学习存在的问题展开研究,主要研究内容如下:1、针对集中式联邦学习所存在的客户端模型精度低和通信成本高的问题,提出基于模型参数异步更新的个性化联邦学习方法。引入距离度量函数,建立共性个
论文部分内容阅读
联邦学习是在不共享客户端数据前提下,通过所有客户端与服务器之间的多次交互建立联邦模型的机器学习方法。由于联邦学习支持客户端在不交换原始数据的条件下联合训练模型,因此成为图像分类领域的研究热点。本文主要针对现有集中式联邦学习存在的问题展开研究,主要研究内容如下:1、针对集中式联邦学习所存在的客户端模型精度低和通信成本高的问题,提出基于模型参数异步更新的个性化联邦学习方法。引入距离度量函数,建立共性个性特征的描述方式,实现基础层与个性层参数的有效划分。设置基础层和个性层参数的异步传输机制,减少客户端与服务器的参数传输量,降低通信成本。基于模型参数异步传输机制,在客户端构造个性化联邦学习模型,提高客户端本地模型精度。通过在MNIST图像数据集上仿真实验验证表明,与现有方法对比该方法的个性化模型精度最高可提高20.7%,并且通信成本最高降低28%。2、针对集中式联邦学习中难以有效处理客户端之间的多速率异步传输和数据分布差异性的问题,提出一种基于移动式服务器的联邦学习方法。引入模型知识迁移思想,建立服务器与客户端模型之间的移动融合机制,实现全局模型的移动异步更新,提高全局模型性能。基于移动式服务器框架构建个性化联邦学习机制,解决数据分布差异大时客户端本地模型分类性能较低的问题。通过在MNIST、Fashion-MNIST、CIFAR-10三种图像数据集上仿真验证表明,与现有方法对比,该方法的全局模型分类精度及所需通信轮数均优于基线方法。3、针对集中式联邦学习过于依赖一个既可靠又强大的中央服务器且存在服务器故障导致整个网络瘫痪的问题,提出一种无需中央服务器的分散式联邦学习方法。引入度量函数,建立客户端的动态划分机制,采用对比客户端之间模型参数距离的方式,实现客户端的动态划分。构建客户端模型更新机制,通过深度互学习（Deep Mutual Learning,DML）更新其模型参数,提高模型精度。最后通过在3种数据集的独立同分布（Independent and Identically Distributed,IID）和非独立同分布（Non Independent and Identically Distributed,Non-IID）的实验表明,该方法能够显著提高精度和稳定性,并具有可扩展性和灵活性。
其他文献
矿热炉是冶炼废旧金属的重要设备,随着近年来对钢铁需求的增加,矿热炉冶炼技术和操作工艺也需要及时提高与改进。矿热炉的三相电极位置精确控制是整个冶炼过程节能降耗的关键所在,精确的电极位置控制可以大幅提高钢铁的产量和质量,降低能源损耗,因此,研究一种高效精确的电极升降控制算法具有重要研究价值和应用前景。本文研究了一种基于电极位置磁检测的矿热炉控制系统。提出采用传感器阵列检测三相电极磁信号强度,通过对检测
赭曲霉毒素是真菌毒素中对人类健康和食品安全危害最大的一种,食品中其含量受到了严格控制。现有的赭曲霉毒素检测方法存在操作较为繁杂、耗时较长、成本较高等局限性。免疫层析检测技术是即时检测的主流方法之一,具有高效、便携、成本低、操作简便的优点。磁性纳米粒子（MNPs）在免疫测定中有着独特的优势,以MNPs为载体开发出OTA微量磁性免疫层析检测装置为真菌毒素定量检测提供了一种新的实现路径。本文提出了一种基
垂直螺旋输送机是靠螺旋转动产生推力使得物料沿机槽上升的连续输送设备,被广泛应用于粮仓、码头、酒厂等领域。近些年,垂直螺旋输送机凭借其结构简单、维修方便、寿命长、体积小、噪声低、密封性好等诸多优点,在粮食垂直提升与输送领域逐渐成为主流装备。但是,使垂直螺旋输送机输送性能更好、可靠性更高的多目标优化设计却是长期以来一直困扰设计人员的一大技术难题。本文针对垂直螺旋输送机建立了有效可行的多目标优化设计方案
随着新冠病毒的不断变异和持续不断的境外输入病例,我国的疫情防控工作面临严峻挑战。核酸检测作为疫情防控的重要环节,其口腔咽拭子采样具有工作量大,易感染性强等特点。因此,利用机器人进行咽拭子采样成为避免医患交叉感染和实现标准化采样的关键,为此本课题基于主从同构式机器人的控制思想,展开主从式咽拭子采样机器人控制系统的研究,主要研究内容如下:（1）主从式咽拭子采样机器人运动学模型研究。根据主从机械手的构型
粮食是重要战略储备物资,在储藏过程中极易受到真菌毒素的污染,目前检测真菌毒素的化学发光酶免疫分析方法存在耗时、测量成本较高、测量精度难以提高等问题,已经成为免疫分析在粮食行业推广应用的主要制约因素。针对传统方法的不足,结合磁微粒化学发光技术与微流控技术,设计出一款用于储粮真菌毒素检测的微系统,实现了真菌毒素的低成本、高精度测量,且大大缩短了检测时间。论文主要工作如下:（1）微系统情况下化学发光与光
随着科技的进步,工业的自动化程度不断提高,其创造的价值也越来越高。但随着设备的大型化,复杂化,一旦发生事故,也会造成严重的财产损失和人身伤亡。因此,利用设备运行的海量数据,在故障发生的初始阶段进行大数据分析,建立高效的智能故障诊断系统,准确的对故障进行智能诊断是非常必要的。随着深度学习技术的飞速发展,因其拥有对数据的利用效率高,分类结果准确等优势,故被广泛的应用于各类设备的故障诊断中。其中,多头注
糖尿病视网膜病变（Diabetic Retinopathy,DR）是常见的糖尿病并发症之一,具有不可逆、致盲性高、进程隐蔽等特点。若不及时治疗,将严重影响患者的生活质量。为解决人工诊断主观性强、效率低等问题,业界提出使用深度学习技术进行DR诊断。调查发现,医学图像涉及隐私和伦理问题通常难以获取,易造成模型过拟合;另外,目前基于深度学习的DR诊断仍以卷积神经网络为主,无法有效提取眼底图像细节特征,诊
车间生产调度是智能制造领域中的重要问题,优化调度可以提高生产效率,减少资源浪费。在实际生产过程中,往往因不确定因素导致调度的不确定。同时,在当前全球合作化生产模式的背景下,对分布式流水车间调度问题的研究更具有现实意义。此类不确定环境下分布式流水车间调度问题的复杂度高,现有的智能算法难以求解出理想的调度方案。本文提出不同的混合策略来改进智能算法,设计混合智能算法来解决不确定环境下分布式流水车间调度问
随着大数据时代的到来,云平台备受青睐。然而,云平台在为海量数据提供强大的存储、计算等服务的同时,也面临着严重的数据安全和用户隐私问题。为保护云数据的安全,用户上传的通常是加密后的数据。因此,如何对密文数据进行高效检索成为了巨大挑战。可搜索公钥加密技术为解决云平台中的密文数据检索问题提供了有效的方法。目前,已有许多可搜索公钥加密方案被提出。然而,现有方案多数存在证书管理或密钥托管问题,同时在安全性或
广播式自动相关监视（Automatic Dependent Surveillance-Broadcast,ADS-B）技术是新一代航行系统中非常重要的通信和监视技术,有助于空中交通管制员和飞行机组实时共享空中交通运行态势,提升航空安全运行水平、空域容量与运行效率。然而由于外界不确定因素,易造成机场航班ADS-B信号丢失,严重影响航空飞行安全。针对这种现象,本文基于深度学习目标检测网络模型和图像目标