基于深度增强学习的异构网络资源调度技术研究

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:liuyong402
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着移动用户的不断增加,下一代无线网络需要比现在的网络支持更高的用户密度。满足这一需求的一种方法是通过飞蜂窝小区(femtocells)更有效地共享网络资源。飞蜂窝小区是近些年来逐渐被越来越多地应用而且是长时演进的演进版本(Long Term Evolution-Advanced,LTE-A)中的关键组成部分,可以在更低的功率需求下提供更高的系统吞吐量和更高的频谱利用率。然而,有效部署这些网络的主要挑战是如何最有效地进行网络资源的调度。由于缺乏为用户提供公平合理的资源分配策略,包含宏蜂窝小区和飞蜂窝小区的异构网络(Heterogeneous networks,HetNets)中复杂的部署带来的更复杂的干扰环境会严重影响系统性能,尤其是处于小区边缘的用户的数据传输速率和整体系统性能。因此,为了减弱这些干扰带来的问题,需要有效的干扰协调和资源调度方案。功率是网络资源中十分重要的组成元素,基站对用户所使用的功率分配方式直接影响着用户的通信质量。传统的功率分配方式虽然能有效地提高用户的通信质量,但是飞蜂窝异构网络的随机部署方式需要一种适应性强的具有自组织性的功率分配算法来保证系统性能。为了组建自组织性强的密集型飞蜂窝异构网络,本文将增强学习(Reinforcement Learning,RL)应用于密集部署的飞蜂窝网络的功率分配中,提出了一种基于深度增强学习的异构网络中的功率分配算法,在为用户提供较高的服务质量(Quality of Service,QoS)和公平性的同时最大化网络的总容量。本文中异构网络的功率分配过程被建模为马尔可夫决策过程,密集的异构网络被建模为一个多智能体网络,将异构网络中的每一个基站均视为一个智能体,智能体与系统环境进行交互,将基站的发射功率建模为智能体的动作空间,并通过设计合理的收益函数对智能体的动作给予反馈;此外,采用深度Q网络(Deep Q network,DQN)利用神经网络为系统带来的强大的特征提取能力来解决Q表无法有效且快速地处理智能体状态空间接近无限大的问题,使得智能体执行动作选择时将系统容量和用户的公平性纳入考虑范围,使系统中基站的功率分配方案向系统总容量不断提高的方向进行。通过将RL方法和深度学习集成到无线通信中,构建自组织、自适应的密集飞蜂窝网络,有效地管理异构网络中的资源。仿真结果显示与以往的方法相比,该方法能有效地提高系统的容量。
其他文献
视觉目标跟踪技术是计算机视觉和模式识别交叉领域的研究热点,其在军事和日常生活中应用广泛。尽管近年来国内外研究人员在目标跟踪领域研究取得了诸多成果,但由于视频受模糊、遮挡、旋转、光照变化等因素的影响,跟踪器很难长时间稳定地跟踪目标,因而目标跟踪仍然极富挑战性。在传统目标跟踪算法中,基于相关滤波框架的算法通过引入快速傅里叶变换大幅度地提高了跟踪算法的速度,但是跟踪算法的精度有待提高。随着海量视频数据的
生物医用镁合金拥有着与人体骨相近的密度和弹性模量,从而成为了可降解骨植入物的理想材料。但是,镁合金较高的降解速率导致植入物过早失效限制了其在临床上的应用。通常采用
随着水资源匮乏和水污染等问题日益严重,水处理技术受到人们的广泛关注。其中,膜分离技术具有分离效率高、设备要求低、操作简单等优点,具有良好的应用前景。理想的膜分离材料应具备环境友好、多功能性、高选择性和快速过滤等优点。如何在提高滤膜分离能力的同时,进一步提高水的渗透性一直是高性能滤膜面临的挑战。本论文以环境友好的羟基磷灰石超长纳米线作为基体,与植物纤维或纳米纤维素复合制备出新型水净化过滤纸。与传统滤
逆向拆除是适宜城市密集环境下房建结构以及桥梁结构的一种拆除方法,本文以房建结构为对象介绍逆向拆除的基本方法,总结逆向拆除法的优缺点,重点分析在逆向拆除技术示范工程实施过程中的主要问题,并提出相应的解决方案。主要内容如下:(1)以城市建筑密集区运用常规拆除方法存在不足为背景,本文介绍了新型拆除法,即“TECOREP”拆除法与逆向拆除法,着重详述逆向拆除法并与其他拆除法对比。同时对逆向拆除法现状进行阐
习近平新时代中国特色社会主义经济思想是马克思主义政治经济学原理与新时代中国社会经济发展实践相结合的最新理论成果。从社会主义高校落实立德树人根本任务、培养社会主义
广西作为西部陆海新通道陆海、陆路运输干线的重要节点,西部陆海新通道上升为国家战略后,广西现代物流产业获得了难得的发展良机。随着"互联网+"经济的发展,无车承运人物流运
随着全球经济一体化进程加快及我国“一带一路”倡议的实施,中西方国家的经济交流越来越紧密,国际商事交易日益凸显出其重要性。国际商法作为各国商业组织在从事贸易活动的过程中调整其规范的法律总和,在法律中有着不可取代的重要地位。为精准理解西方国家的商法体系,以适应商法全球化的进程,国内企业应加强对国际法律和相关文献阅读和学习。中西方国家法律差异较大:我国偏大陆法系,沿袭制定法,而英美国家则为普通法系,即英
本文就目前我国探矿权的主体探矿权人资格与矿产勘查主体准入资格的相关法规规定,论述了二者的区别与联系。认为地质勘查主体准入资格与探矿权主体资格在地质勘查产业活动中
随着国内外高速动车组设计研发技术的发展,投入使用的高速动车组列车的运营速度越来越高,但这也对高速动车组疲劳强度的评估提出了更高的要求。高速动车组转向架构架作为走行部的重要的基础组成部分,具有承载和传递各种作用力及载荷的重要作用。由于转向架构架长期承受着来自于各部位传递的交变载荷,损伤在应力集中明显的部位容易累积,当其超过临界值时就容易导致构架疲劳损坏,萌生裂纹,进而影响车辆整体运行的安全性,因此对
光载无线电(Radio over Fiber,RoF)技术是一种融合了光纤通信和无信通信的新兴通信技术。它在具备光纤通信高带宽、抗电磁干扰、传输距离长等优势的同时也包含无线通信成本低、移动性好的特点。该技术用光纤作为传输媒介,成本低廉且系统结构简单,能够满足5G通信时代人们对通信带宽和速率的需求。RoF系统产生的毫米波质量直接影响整个系统的性能,是目前该领域的研究热点。本文基于现有研究成果,对Ro