随着无线通信中不同网络、不同业务和不同接入方式的不断增长，频谱资源越来越紧缺。如何进一步提高频谱利用率，从而进一步提高系统容量和通信服务质量是下一代无线通信亟待解决的问题。认知无线电（CR，Cognitive Radio）技术的研究是一个崭新的课题，它可以实现闲置频谱的充分利用，在新一代无线通信网络中具有非常广阔的应用前景。　　 随机矩阵理论（RMT，Random Matrix Theory）近年来发展迅速，它具有处理大维数问题的独特优势，现已成为解决无线通信领域问题的重要工具之一。2009年10月在欧洲专门举行了以RMT为主题的国际会议RMTfWC 2009（Random Matrix Theory for Wireless Communications），许多国家都在这方面设立了专项研究基金，RMT在无线通信领域的应用已经受到众多国内外学者的关注。　　 实现二者的有机结合，即基于随机矩阵理论研究认知无线电关键技术无疑是一个非常有意义的研究课题。本文正是基于随机矩阵理论研究认知无线网络中频谱感知和频谱共享两大关键技术：（1）提出了基于RMT中渐近谱理论的认知无线电协作频谱感知算法，实现了小样本下的高性能频谱感知；（2）首次将自由概率理论引入认知无线电领域，提出了基于RMT中自由概率理论的认知无线电频谱感知算法，实现了高性能感知的同时精确地获取信号功率；（3）提出了基于矩阵正交性的频谱共享方法并基于RMT最新研究成果分析了其大系统性能，实现了认知无线系统不同用户之间相互零干扰地共享频谱。