移动互联网和物联网是今后信息产业发展的重大趋势,此类网络的广泛应用对移动通信网络提出了更高的挑战。随着无线通信技术的快速更新和第四代移动通信系统(4G)的成功商用,国内外研发第五代移动通信系统(5G)的步伐正在进一步加速。5G通过运用大规模天线(MassiveMIMO)、超密集组网、新型多址、高频段接入、灵活频谱共享和新型网络架构等关键技术,旨在支持1000倍的容量提升、1000亿以上的设备连接、5-15倍的频谱效率提升、Gbps的用户体验速率和毫秒级时延。接着,在5G的实现过程中,传统频谱资源条块划分和不合理利用造成频谱资源紧缺。在频谱资源日益匮乏的移动通信系统中,研究人员提出认知无线网络的概念,认知无线网络主要基于认知科学、信息理论和控制理论,可动态调度无线资源实现资源的高效利用。同时,大规模天线技术已经得到了学术界和工业界的普遍看好,势必会在5G中实现。在大规模天线系统下的频谱共享成为了未来网络发展的重点。因此,基于Massive MIMO认知无线网络的研究势在必行,本文针对基于Massive MIMO的认知无线网络关键技术做了深入研究。本文的主要创新点及贡献如下:首先,本论文研究了基于Massive MIMO的认知无线网络频谱感知技术。通过无线电频谱监测系统的实际测量,发现了在无线电环境中存在大量时-频-空域资源空洞的事实。在基于Massive MIMO的认知无线网络中,基于概率论和无线信道衰落模型,本论文提出了一种通过确定次级节点的最佳天线位置来最大化检测概率的方法,提高了系统检测概率;本论文提出了基于地理位置分簇的协作频谱感知新机制,首先得到了基于传播模型的单节点感知策略,接着通过分簇和置信度方式完成了协作感知的节点分配,提高了认知无线网络中的感知精度;本论文分析了不同频带间的感知公平性,提出了分层迭代匈牙利算法,使得频带间感知公平性最优,得到了复杂度低公平性优的弓形节点分配方案。仿真结果得到了次级节点的最佳天线位置,证明了系统检测概率和公平性能的提升。其次,本论文分析了基于Massive MIMO的认知无线网络能量采集策略。通过理论分析得到了两跳大规模天线中继网络下行传输的信干噪比和用户速率。当基站侧和中继侧的天线数目趋于无穷大时,本论文得到了渐近信干噪比和渐近传输总速率均与快衰落无关。在完美信道估计的情况下,用户功率可与天线数目成反比。当基站和中继的天线数目比例趋于无穷大时,两跳中继网络的用户总速率仅与K个用户侧的传输参数有关,而与另一跳的传输无关。在基于MassiveMIMO的认知无线中继网络中,当中继自身能量不足而必须先进行能量采集后进行信息传输时,本论文推导了用户的传输总速率与采集到的能量之间的均衡关系。当天线数目比例趋于无穷大时,用户的渐近速率与射频能量转化因子无关。经过凸优化理论分析,本论文得到了最优的能量采集和信息传输时间分配比。仿真结果表明了系统的传输性能随着天线数目增加而提升,得到了能量采集、信息传输的最佳时间分配比。最后,本论文探讨了基于MassiveMIMO的认知无线网络中继通信机制。中继传输是最简单的两跳模式且认知无线网络采用Underlay方式,通过理论分析得到了用户传输的信干噪比和传输速率。当基站侧和中继侧的天线数目趋于无穷大、传输功率反比于天线数目时,本论文得到了主、次网络渐近信干噪比和渐近传输速率均与快衰落无关,大规模天线系统渐近消除了主、次网络之间的干扰,主、次网络可独立传输。用户的渐近信干噪比和渐近传输速率与主网络的干扰温度无关,次级网络可采用峰值功率进行传输而不会对主网络产生任何干扰。当主网络基站与中继的天线数目比例趋于无穷大时,两跳中继主网络的传输总速率仅与K个用户侧的传输参数有关,而与另一跳的传输无关。接着,本论文定义了一种衡量主网络传输效率的效用函数。以最优化效用函数为目标,得到了最优的中继发射功率。数值结果证明了网络传输速率随天线数目增多而增大,仿真表明了主、次网络之间的独立关系,得到了使效用函数最大的最佳中继发射功率。