多输入多输出（MIMO）系统作为一种新型的无线通信技术,在解决系统带宽资源有限和高速通信的矛盾中作用明显,因而得到了广泛的关注和应用。在认知无线电或信号截获背景下,对空时方案未知条件下MIMO系统接收技术进行研究不仅具有巨大的经济价值,还具有重要的军事意义。本文在分析MIMO系统特征、空时分组码特点以及技术要求的基础上,系统研究了空时方案未知条件下MIMO接收的理论和方法,主要内容和成果如下:（1）为了解决多径信道下MIMO系统发送天线数估计问题,首先分析了现有模型在多径信道下失效的原因,将MIMO多径信道模型等效变换成一种虚拟信道矩阵,从而建立多径信道下MIMO系统发送天线数估计模型。然后利用随机矩阵理论中协方差矩阵最小特征值分布的相关研究结果,证明了时不变瑞利信道的协方差矩阵最小特征值收敛于第二类Tracy-Widom分布,分析了该特点对发送天线数估计的影响,并提出一种改进的RMT估计算法来估计多径信道下MIMO系统发送天线数。最后对改进算法进行了仿真验证,结果表明在低信噪比和小数据条件下,改进算法的估计性能相比RMT算法有较大提升。（2）为了解决时变信道MIMO系统发送天线数估计问题,首先根据时变信道自相关特性对时变信道进行建模,分析了模型中扰动项对信道协方差矩阵秩的影响,得到估计算法数据量的选取原则。然后利用随机矩阵理论中噪声样本协方差矩阵最大特征值分布的相关研究结果,根据中心极限定理得到了噪声特征值均值分布的特点,并提出一种基于特征值均值的算法来估计时变信道下MIMO系统的发送天线数。最后通过蒙特卡洛仿真验证了估计算法的有效性和性能优势。（3）空时分组码识别是指在已知码集的条件下通过接收信号的特征识别空时分组码类型,是空时方案未知条件下MIMO接收中的重要技术。重点对基于码参数识别算法的惩罚函数的选取进行了研究,利用改进的AIC准则结合假设检验理论对惩罚函数进行了数值分析,提出了一种改变加权因子的基于码参数识别的改进算法,这种改进几乎没有增加计算复杂度。仿真结果表明,与原算法相比改进算法提升了在低信噪比和小数据量条件下的识别性能,并且对不同调制方式同样具有较好的鲁棒性。（4）空时分组码参数分析是指在码集未知的条件下对接收信号分析得到空时分组码的参数。本文对空时分组码的编码模型和接收信号模型进行研究,发现了接收信号协方差矩阵的秩与空时分组码参数之间的数学关系,并由此利用随机矩阵理论中噪声子空间最大特征值的概率分布求出信号协方差矩阵的秩,进而估得空时分组码的编码参数。仿真结果表明,算法在未知码集的条件下不仅能够估计出空时分组码的码参数,还能够确定空时分组码的码块起点。（5）为解决信道未知条件下MIMO信号检测问题,以最大似然序列检测为估计准则,建立了一种新的半定松弛求解模型,得到松弛解矩阵的秩等于发送天线数。为了解决松弛解的秩大于1时估计原始发送序列的难题,提出了一种特征向量近似法和随机法相结合的方法。同时,通过限定目标函数的取值上限,使算法能够根据目标函数值自适应判断发送序列个数,从而减少每次求解的约束个数和SDR的求解次数,分析表明算法的计算复杂度与发送天线数成线性关系。最后,通过仿真表明所提算法能够在与秩1的算法性能保持相当的条件下减少计算时间,并验证了算法计算复杂度与发送天线数成线性关系。（6）针对信道未知条件下MIMO系统QAM信号正交空时分组码译码问题,通过对求解矩阵对角线元素之间做不等式约束和尺度变换,提出了一种基于边界约束的半定松弛模型,并通过尺度还原提出了对应的随机法来根据松弛解求解译码结果。通过分析发现,所提算法的性能与基于虚拟双极性的半定松弛模型等价,但计算复杂度不随调制阶数增加而增加,对于阶数不小于16的QAM信号计算复杂度优势明显。所提方法还能够应用于非4Q阶QAM信号。仿真实验验证了两种方法性能的等价性,结果表明所提模型的计算复杂度较小,且复杂度优势随译码长度增加更加明显。