论文部分内容阅读
随着无线通信技术的高速发展,终端及通信业务的的急剧增长。泛在通信的普及,频谱资源需求与稀缺的矛盾日益严重。认知无线电为频谱效率的极大提高带来了解决方案。认知无线电的关键技术之一,动态频谱接入可以使认知用户根据实时信道的环境状态,智能感知并且动态的接入最佳工作频段,是解决当前频谱资源稀缺和利用率不高的一种重要手段。针对认知用户的动态频谱接入问题,设计了一种基于Q-learning的动态频谱接入算法。该算法的关键是利用Q-learning自适应能力强的优势,指导认知用户通过不断地与环境交互学习,快速的选择回报率最高的信道接入进行数据传输。动态频谱接入是一个动态时变优化问题,而Q-learning算法作为一种无模型的在线增强学习算法,由于其无需对外部环境建模,非常适合应用在动态频谱接入系统中指导认知用户选择信道。首先,针对复杂的频谱环境,通过设定好Q-learning算法中的各种参数和Agent动作选择策略,使认知用户在不断地与环境的交互学习过程中积累经验,选择最优信道接入进行通信。对于提高认知用户吞吐量和减小与主用户的冲突概率有明显的效果。然后,在2.4G频段的WiFi信道的场景下,使用WiFi分析仪对三种不同用户密集程度的环境下采集WiFi信道状态数据,并测试信道质量,与利用Q-learning算法所选取的最优信道结论一致。最后,在NIUSRP-2932的实验平台上通过LabVIEW编程仿真,在WiFi信道的场景下实现信息的收发测试,在实验的过程中,认知用户能够根据当前的信道环境自适应的选择最优信道,通过对比分析,再次证明该算法的有效性。通过上述理论推导、实验测试以及虚拟仿真等三种不同方法,均证明了 Q-learning算法应用于动态频谱接入的环节,能根据实时信道环境选择当前的最优信道接入并实施通信,在通信过程中保持对信道的监测,一旦主用户有通信请求时及时释放信道,避免与主用户发生冲突,同时立即重新选择新的最优信道完成通信任务,实现无缝连接。对提升频谱效率,提高系统吞吐量,降低通信差错概率等方面效果良好。综上,Q-learning算法从仿真和实验结果表明可以作为泛在的无线系统之中动态频谱接入的解决方案之一。