随着无线通信的迅速发展,现代移动通信网络面临着通信业务种类快速增加、通信质量要求更高,无线环境更加复杂,频谱资源有限等问题。为了满足高数据传输率,高服务质量的要求,人们研究各种新技术来提高频谱利用率。近年来,MIMO技术已经被应用于LTE网络,通过空间分集及复用等技术,显著提高了无线通信系统的系统容量、频谱效率及系统的传输可靠性。新兴的认知无线电技术使得未授权用户/次用户在一定条件下接入主用户网络,有效地提高了频谱利用率。协作通信解决了远距离传输带来的衰落、多径衰落、阴影效应等问题。将MIMO技术、协作通信技术及认知无线电相结合,可有效提高系统的矩阵增益、分集增益、复用增益,提高系统的频谱利用率,扩大系统的覆盖范围。本文主要研究认知MIMO网络中的预编码,提出了认知网络中基于最小均方误差的预编码算法及认知多跳中继网络中的预编码算法,并对其网络性能进行了研究。本文主要包含了以下三个方面,首先论文对传统网络中经典的MIMO预编码技术、认知无线网络技术及协作通信网络进行了总结,并对经典MIMO预编码算法进行了仿真,比较研究其性能。其次,对认知无线网络中的预编码算法进行了总结,并提出了基于最小化均方误差的预编码算法,通过仿真在误比特率及容量方面对算法性能进行了对比。最后设计了认知多跳中继网络中的MIMO用户无干扰且发送功率受限情况下系统的性能。