在无线通信认知无线电（CR，cognitive radio）技术中频谱共享系统被证实能够提供更高的频谱利用率。频谱共享系统的特点是，当次用户发射机对主用户产生的干扰在某门限值以下时就可以使用主用户授权的频谱，此门限值称为干扰温度，能保证主用户的正常通信。同时，多天线MIMO技术是无线通信中常用的提高系统总容量和可靠性的技术，本文将结合这两种技术进行频谱共享系统分析。首先，本文研究了基于不完全信道状态信息下的单用户单天线的频谱共享系统，通过分析系统次用户发射机的发射功率和次用户接收机的信噪比，最终我们计算出了次用户的系统单位容量的闭型表达式。针对一些特殊情况，例如：忽略主用户发射机对次用户接收机的干扰以及考虑干扰温度较大时的情况，我们也进行了系统单位容量分析。而且这些理论研究都通过Matlab仿真得到了验证。其次，本文进一步研究了在瑞利衰落信道下的多用户多天线的频谱共享系统，其中主要考虑了次用户发射机的发射功率受限于主用户的干扰温度的情况。并在此条件下推导出了系统的单位容量的闭型表达式。具体而言，研究了多用户单天线系统和多用户多天线系统，多用户多天线系统中又主要研究了三种不同的MIMO传输机制，即选择发送/选择合并（ST/SC）、发射分集/选择合并（TD/SC）、空时分组码（STBC）。根据不同的传输机制得出次用户接收机的不同信噪比，然后推导出相应的容量表达式。最后，通过Matlab仿真我们得出在多用户多天线频谱共享系统中MIMO传输机制的选择发射/选择合并（ST/SC）方式能够获得最佳系统容量，而空时分组码（STBC）方式应用于频谱共享系统没有体现提升容量的优势，本文对于无线通信频谱共享系统的实际应用具有一定指导意义。