GSM-R铁路专用数字移动通信系统的可用频段为上行885-889MHz下行930-934MHz,仅4MHz的频谱资源以及静态频谱分配的策略严重限制了铁路专用数字移动通信系统的质量保证及业务发展。作为实现中国梦的重要一环,在“交通强国、铁路先行”的感召下,中国铁路正在向着安全、高效、温馨、便捷等目标持续迈进,对高速环境下无线通信业务的种类和质量提出了越来越高的要求,这使得传统固定分配频谱的方式已不能满足铁路日益增长的频谱需求。认知无线电技术被认为是解决频谱问题的一个重要方法,基于上述情况,论文提出了适合高速铁路中认知基站频谱管理的算法,希望通过合理的规划和决策,降低认知用户的频谱切换次数,解决多用户切换时频谱受限的问题,从而提升通信的质量。论文主要工作如下:将增强学习算法Q-Learning应用到认知基站的频谱管理中。利用Q-Learning算法学习认知基站附近主用户的行为规律,选取合适的学习速率和阻尼系数,以累积的Q值对信道进行评估,为高速铁路用户动态分配合适的信道。分别在简单场景和复杂场景下对认知基站Q-Learning频谱管理算法进行仿真分析。针对运用Q-Learning频谱管理算法,存在切换的信道在这一时刻是空闲的下一时刻就被频谱主用户占用了,必须再次切换信道的情况,对Q-Learning频谱管理算法进行改进,增加HMM信道预测。在认知基站中,根据历史信息与预测信息,通过HMM算法建立信道模型,并与Q-Learning算法进行结合,选择当前及下一时刻均空闲的信道进行切换,提高切换信道评估的准确性。对融合预测信息的Q-Learning频谱管理算法进行仿真分析。针对铁路沿线的铁路通信由多个基站组成,基站与基站间的切换是铁路通信中一个需要解决的问题,继续对融合HMM预测信息的Q-learning频谱管理算法进行改进,研究基于多基站协同预测的Q-Learning算法。通过多个认知基站的信息协同,实现信息的共享,对信道进行综合评估,选择一条最优的信道。对多认知基站协同预测的Q-Learning算法进行仿真分析,仿真结果表明,基于多基站协同改进的Q-Learning算法,能够进一步减少跳频次数,提高通信质量。针对列车高速移动过程中面临的成百上千的用户在同一时刻发起切换请求以及在铁路专用移动通信系统发展过程中必然经历的多种网络共存的实际情况,研究基于异构无线网络的认知基站模型,通过认知无线电解决多用户切换时的频谱资源分配问题。在异构无线网络认知基站中,将公网及铁路专网作为副基站、认知基站为主基站,当列车到来引起多用户越区切换时,结合分组频谱管理算法把其它业务用户由正常状态转换为认知状态,由认知基站在异构网络中分配频谱,并力求异构无线网络中各无线网络资源的均衡,解决频谱资源受限以及多用户切换问题。