进入信息时代以来,人们对通信的需求无处不在,因此对无线移动通信网络提出了更高的要求。快速增长的无线移动通信要求更快的传输速率,更高的传输质量,但是无线频谱资源是有限的,这就构成了无线通信的基本矛盾。因此,高效合理地充分利用频谱资源成了当务之急。在下一代无线移动通信网络中的研究中,由于能够大幅提高网络吞吐量和频谱使用效率,学术界对认知无线电技术和MIMO技术展开了深入的研究和广泛的探讨。认知无线电技术,由于在自动检测工作环境,系统资源自配置,传输参数调整和工作模式变化等方面的优势,可以实现主用户和认知次用户共同使用同一段频谱,大大提升了频谱效率。MIMO技术作为3G和LTE标准的核心技术之一,在近十年受到了学术界和工业界广泛地关注。本文主要研究了认知无线电系统下的MIMO预编码设计。研究内容主要分为两个方面,一是在认知无线电环境下的基于发射功率最低原则的最优预编码设计。另一个是在认知无线电环境下应用干扰对齐技术的预编码设计。在基于发射功率最低的最优预编码设计中,主要针对完整的信道状态信息(CSI),’和不完整的CSI,考虑次用户的传输速率要求和对主用户造成的干扰要求,分别建立了最优化问题数学模型,应用半正定规划.(SDP)方法进行求解。次用户在保证相同的传输WoS情况下,有完整CSI的情况相比于不完整CSI的情况会有更低的发射功率。而在应用干扰对齐预编码设计中,通过主次用户的合作的方式,应用干扰对齐技术,利用MIMO多天线提供的多余空间维度,将次用户发射的信号对齐到主用户未使用的空间维度中,消除次用户给主用户造成的干扰。同时将主用户发射的信号对齐到次用户未使用的空间维度中,消除主用户对次用户的干扰。从而大大提高了系统的吞吐量和频谱效率。最后对理论推导进行了仿真,验证了理论结果。