基于P4的地理分布式机器学习流量优化研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:tomlibu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
得益于大数据时代的不断发展,机器学习研究枝繁叶茂,训练数据和学习模型规模都与日俱增,利用机器学习的业务要求也越来越高,单机机器学习和单训练中心的训练已不适应所有场景。因此,地理分布式机器学习逐渐成为当下机器学习的研究前沿,它可以利用多个训练中心的算力和持有的数据进行大规模复杂的训练任务。但是地理分布式训练会产生许多需要同步的梯度参数,且通信成本更高,同时当前硬件发展使得计算能力的增长遥遥领先于网络传输能力的发展。因此在该场景下,通信瓶颈成为了学习效率的重要影响因素。如何解决其中的计算与通信的不平衡,降低系统的通信计算时间比从而提升系统性能,已经成为近年来业界的研究热点。而随着SDN的快速发展,P4可编程交换机的出现为突破其通信瓶颈提供了新的思路。本文基于P4语言及可编程交换机,分别从系统设计、协议制定、丢包重传等方面出发,研究地理分布式机器学习的通信效率提升问题。首先,本文利用P4可编程交换机替代传统的交换机及参数服务器,将原本在服务器上进行的聚合操作放在交换机中完成,并分三步构建基于P4的分级聚合系统。首先对浮点型梯度参数进行了保守量化为32位整型参与聚合运算;然后在现有研究基础上提出分级聚合机制,进行了收发端及交换机端传输协议的设计,进一步提升通信效率;最后提出PPSP算法,根据不同的worker地理分布灵活构建最优通信拓扑,并通过与传统分布式机器学习通信方式及单可编程交换机聚合进行仿真对比证明该系统的优势。其次,在提出的分级聚合系统框架下,本文利用P4交换机的特性,对系统的通信机制及步调进行了优化。首先引入多ACK行为控制机制,在不影响正常通信节奏的情况下通过多种ACK信号反馈替代控制器对收发行为进行控制,并提出主动重传机制,有效解决了交换机无法产生新包的弊端,将丢包的监测及重传行为都严格控制在单条链路中,不对上下游行为产生影响,极大程度的解决了传统丢包重传在该系统下的不适应性。其次针对系统通信行为间的时隙浪费及带宽空置问题进行改进,利用多ACK机制基本消除回传ACK及发端响应时延等时隙浪费情况,并将主动重传与带宽利用率相结合,根据网络状况针对性的调整各链路的主动重传速率,保证系统平稳有效运行。最后通过与现有方法进行仿真对比证明优化的有效性及优越性。
其他文献
获取对方网络拓扑是认知电子对抗的研究重点之一。其中的关键问题是如何从实际对抗场景的角度出发,利用可获取的网络信息对网络拓扑进行识别,并通过对拓扑的分析加快干扰波形的选取速度。针对上述问题,本文通过分析电子侦察中可以获取目标网络的通信信号进行网络拓扑识别,再依据其网络拓扑结构分析关键节点,根据分析结果选取网络中部分节点采用合适的干扰波形进行攻击,以加快干扰波形选择速度以及提高干扰效果。具体而言,本文
学位
电力线通信系统(PLC)是一个基于电力传输网络上的控制系统,在电力传输网络上传输数据,并具有其独特的信道传送特点和噪声特征。为提高数字信息的安全传输,并减少数字信息传递的误码率,人们通常使用信道编码技术。卷积编码和维特比译码都是高效的前向纠错方式,并具备了解决突发出错问题的能力。因此,本文以面向电力线通信的卷积码和维特比译码算法为课题,重点研究了卷积码和维特比译码器的原理与实现。首先介绍了电力线通
学位
故事主要发生在“舒心”精神病院,讲述了悬疑小说作家景行止在这里寻找母亲死亡真相的故事。父亲去世后,景行止回到老宅整理遗物,关于童年的噩梦再次出现。在一次催眠治疗后,他发觉母亲的死存在隐情,而这一切与“舒心”精神病院存在关联。于是他假借收集小说素材的名义来到医院做护工,实则暗中调查母亲死亡的真相。在医院期间,他遇见了精神科主治医生颜夕,在相处中知道了她童年的故事与心理创伤,两人相互治愈最终走到了一起
学位
统筹推进公立医院管理体制改革,是深化医药卫生体制改革的重点与难点,而医院审批制度则是公立医院管理体制的基础与核心。医院审批制度对于保障和促进医院经济运行发挥着重要作用,是医院医疗管理和行政事务不可或缺的重要保障。基于此,本文结合公立医院目前所处的改革背景及笔者所在单位实际工作情况,以深化医院审批制度改革为重点研究内容,从改革的背景意义、目标原则、改革路径及重点工作等方面,全方位多层次地论述了医院审
期刊
卫星通信系统能够实现全球覆盖,这是其相对地面通信系统的巨大优势,因此卫星网络将在未来的全球组网中发挥重要作用。低轨(Low Earth Orbit,LEO)卫星网络因其轨道高度较低,相对其他轨道的卫星网络具有通信时延低、组网成本低等优势,成为包括中国在内的诸多国家未来卫星网络研究的重点技术之一。但低轨卫星网络的拓扑高度动态,同时接入设备以可移动网络的形式存在,这提高了接入设备切换接入点的频率,也使
学位
随着越来越多的机器学习和深度学习的算法的改进,人体行为识别技术在安全警戒,智能家居和健康关护等领域发挥了举足轻重的作用。传统的人体行为识别技术主要是通过摄像头或可穿戴传感器等设备采集活动数据样本再进行识别,然而在室内环境下时,摄像头存在着侵犯隐私的问题,可穿戴传感器设备又不具备普适性,此时基于Wi-Fi信号进行人体行为识别成为了该领域的新型解决方案。WiFi设备成本低廉,且在室内环境中广泛存在,作
学位
随着通信、互联网行业的快速发展,传统的4G网络模式在很多行业领域已经无法满足日益飞涨的海量数据信息,尤其是医疗行业,为了解决医疗行业中不同业务的差异化需求,将5G与医疗行业相结合是比较理想的解决方案。针对不同用户的不同需求,通过为用户定制不同网络切片的方式,可以实现不同Qos需求的差异化服务。本文主要针对实际的移动医疗场景,考虑到远程手术对于低时延、高可靠的要求,以及4k高清医疗视频传输对于大带宽
学位
如今随着科技的进步以及环境的污染,人们对身体健康越来越重视。呼吸是最重要的生命体征之一,携带着大量的生理和病理信息。由于呼吸中含有水蒸气,因此周围环境的湿度随着呼吸的频率与深度发生变化。湿度传感器作为将周围环境湿度转化为可测电信号的器件,且相比传统呼吸监测设备具有便携、成本低的优点。因此人体的呼吸监测的湿度传感器的研究具有重要的意义。基于现阶段对陶瓷湿度传感器以及Ni-Co-P空心纳米砖材料的研究
学位
开放外资在带来经济增长的同时,也使得外国投资者影响国家安全的可能性增加。基于对国家安全的重视,各国陆续建立外商投资国家安全审查制度。我国于2020年11月27日发布了《外商投资国家安全审查办法》,规定了审查的标准、范围和程序。然而,与之前已颁布的法律相比,新的法规在程序上虽然规定得更加具体,但在实体内容上并没有更进一步的规定。尤其是在审查标准上,审查标准作为法律实体内容的重要部分,在后续法律制定的
学位
在信息现代化发展策略的引导下,室内位置服务需求日益增长。Wi-Fi与视觉两种定位信号源以普适易用、成本低廉、易于部署等优势备受关注。本文针对当前视觉与Wi-Fi定位网络面临的浅层位置测量量易受环境与设备的干扰,空间位置表达能力不足;传统定位算法对位置特征的解译能力有限,定位精度不高;以及单源定位网络的环境位置感知结果存在缺陷等问题。从位置特征深度提取、精确位置感知算法、多源交互识别定位策略三个方面
学位