基于Q-learning的动态频谱接入算法研究

来源 :海南大学 | 被引量 : 0次 | 上传用户:wanming2000
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着无线通信技术的高速发展,终端及通信业务的的急剧增长。泛在通信的普及,频谱资源需求与稀缺的矛盾日益严重。认知无线电为频谱效率的极大提高带来了解决方案。认知无线电的关键技术之一,动态频谱接入可以使认知用户根据实时信道的环境状态,智能感知并且动态的接入最佳工作频段,是解决当前频谱资源稀缺和利用率不高的一种重要手段。针对认知用户的动态频谱接入问题,设计了一种基于Q-learning的动态频谱接入算法。该算法的关键是利用Q-learning自适应能力强的优势,指导认知用户通过不断地与环境交互学习,快速的选择回报率最高的信道接入进行数据传输。动态频谱接入是一个动态时变优化问题,而Q-learning算法作为一种无模型的在线增强学习算法,由于其无需对外部环境建模,非常适合应用在动态频谱接入系统中指导认知用户选择信道。首先,针对复杂的频谱环境,通过设定好Q-learning算法中的各种参数和Agent动作选择策略,使认知用户在不断地与环境的交互学习过程中积累经验,选择最优信道接入进行通信。对于提高认知用户吞吐量和减小与主用户的冲突概率有明显的效果。然后,在2.4G频段的WiFi信道的场景下,使用WiFi分析仪对三种不同用户密集程度的环境下采集WiFi信道状态数据,并测试信道质量,与利用Q-learning算法所选取的最优信道结论一致。最后,在NIUSRP-2932的实验平台上通过LabVIEW编程仿真,在WiFi信道的场景下实现信息的收发测试,在实验的过程中,认知用户能够根据当前的信道环境自适应的选择最优信道,通过对比分析,再次证明该算法的有效性。通过上述理论推导、实验测试以及虚拟仿真等三种不同方法,均证明了 Q-learning算法应用于动态频谱接入的环节,能根据实时信道环境选择当前的最优信道接入并实施通信,在通信过程中保持对信道的监测,一旦主用户有通信请求时及时释放信道,避免与主用户发生冲突,同时立即重新选择新的最优信道完成通信任务,实现无缝连接。对提升频谱效率,提高系统吞吐量,降低通信差错概率等方面效果良好。综上,Q-learning算法从仿真和实验结果表明可以作为泛在的无线系统之中动态频谱接入的解决方案之一。
其他文献
随着知识的爆炸式增加和不同领域知识图谱的推出,面向知识图谱的查询已成为近来搜索引擎领域的研究热点。然而,由于不同领域的知识图谱大多独立存在且所涵盖的知识有限,仅基
小说意味隽永蕴含先进的价值观念和价值取向,是高中语文教学的重要组成部分,对提高学生品德修养有着至关重要的作用。美德发展作为学生语文素养的重要内容,由于没有实际的检
以Facebook为代表的基于位置社交网络受到人们的广泛关注,这种新兴的社交网络在传统的社交网络基础上增加了地理位置,使得传统的在虚拟网络上的世界社交延伸到现实世界。通过
近年来,随着基于位置服务的发展以及智能设备的普及,空间查询技术已经深入到日常生活中。然而当今的查询技术已经不仅仅局限于我们所熟知的近邻查询。为了更贴近实际应用,移
图像分割是图像分析、计算机视觉研究的重要内容,在医学影像、遥感影像、智能交通、生物分子影像处理与分析等多个领域广泛应用。基于变分水平集方法的变分图像分割模型为多
无线射频识别技术(RFID)作为物联网感知识别层重要的技术之一,从当初第二次世界大战的鉴别敌机军事应用变革到现在的身份识别、门禁控制、车辆收费以及无人收货等商业应用,其
随着我国国力的不断提升,党和国家越来越重视我国体育事业的发展,作为体育人才培养及体育事业发展的主要单位—高等体育院校,也越来越受到重视。高等体育院校为了培养出质量
随着医学影像学的快速发展,医学成像技术层出不穷,光学相干层析(optical coherence tomography,OCT)成像的出现推动了眼科学的发展,并得到了广泛的应用。但由于相干成像模式,
随着互联网的快速发展,数据呈多态化变化趋势,产生了很多不完备不一致数据,这对数据分类和预测等处理带来了巨大的阻碍。对不完备不一致数据的填补一直以来都是数据挖掘领域
随着互联网+旅游战略口号的提出、全域旅游系统构想的萌发,智慧旅游、个性化旅游成为旅游行业发展的新趋势。现有的在线旅游系统存在一些问题,如智能化功能不明确、只能被动