论文部分内容阅读
随着现代无线通信技术的迅猛发展,人们已经在享受第五代移动通信技术(5th-Generation mobile networks,5G)带来的科技成果。在5G时代,由于无线网络技术的多元化,必然形成无线网络融合发展的趋势,最终会形成异构无线网络。但是在这种网络中用户很难根据动态的网络环境和自身的行为来接入最优的网络。近些年机器学习的快速发展为解决这一问题提供了新的思路,从而改善了网络接入的方式,其中强化学习技术可以通过奖励值反馈机制学习到最优的策略。因此本文就如何将强化学习应用于异构无线网络接入管理技术进行研究。实现不同网络之间的融合需要克服不同接入技术造成的技术隔阂,所以必须要有一个异构无线网络资源管理系统来对网络进行管理,从而更好的实现无线网络接入控制。本文在充分参考目前已有的异构无线网络资源管理模型的基础上提出了一种新型的异构无线网络的资源管理系统,该系统采用分级式架构,整个系统分为四层,各个层级都与具体的网络单元一一对应,并且为每个层级设计了相应的功能模块,此外还设计了多种报文用于系统中各个模块的交互。其次,本文提出了基于Q-learning和深度Q网络(Deep Q-Network,DQN)的异构无线网络接入算法,对网络中的接入管理问题进行建模,定义了模型的状态和动作。为了满足用户的个性化需求,对用户所产生的不同业务进行分类,从而区分业务类型进行网络接入选择。在充分考虑用户体验质量(Quality of Experience,QoE)的同时,还考虑了网络的服务质量(Quality of Service,QoS)。采用层次分析法(Analytic Hierarchy Process,AHP),定义了区分不同业务类型的归一化多属性奖励值函数,从而对用户的网络接入行为产生反馈。所提出的算法使异构无线网络资源管理系统能够在动态变化的网络环境中学习实际用户的行为和网络状态,最终使用户接入最优的网络。最后,在NS3仿真平台上,搭建了异构无线网络资源管理仿真模型,对模型中每个模块的功能进行了测试和验证,实现了对用户信息和网络资源信息的收集。同时用二进制编码的方式对系统的状态进行定义,然后通过仿真比较不同参数下的基于Q-learning的接入算法性能,分析不同参数对算法的影响。对基于Q-learning和SARSA的接入算法进行仿真比较,用性能最佳的算法的结果对不同参数下的DQN算法中的Q网络进行训练,分析不同参数对基于DQN的接入算法的影响。