盲信号分离技术是现代信号处理领域中的重要研究课题之一,由于其对源信号和传输过程的先验知识要求非常少,在很多领域显示出广泛的应用前景。独立分量分析(Independent Component Analysis,ICA)是解决盲信号分离问题的重要手段,由于其实现简单、分离性能可靠,引起国内外学者的日益重视。多输入多输出(Multiple Input Multiple Output,MIMO)技术是现代无线通信系统中的重要突破,其能够在不增加可用带宽和提高发射功率的前提下,显著提高数据传输速率和频谱利用率,成为无线通信领域的一个研究热点。空时分组码(Space-Time Block Code,STBC)由于其编译码简单且能实现系统的可靠传输,成为MIMO系统的主要编码方式。从非合作角度对MIMO-STBC通信系统进行参数盲估计及信号盲分离在军事和民用领域都具有非常重要的应用价值,然而,目前这方面的研究还相对比较少。本论文针对盲信号分离技术及其在非合作MIMO-STBC通信中的应用做了相关的研究,主要的贡献有:1、对非圆复数快速不动点(noncircular complex Fast ICA,nc-Fast ICA)算法性能进行了深入的研究,并结合特定的通信信源提出一种新的快速不动点算法。首先,对nc-Fast ICA算法的性能进行了深入的分析,通过从固定点迭代和代价函数两个角度对算法收敛性的分析,推导得出两个结论:第一,算法可能会收敛到错误解,并且该错误解与算法的起始分离矩阵有关,进而提出了一种改进方案来避免错误收敛;第二,算法能较好的分离处于非稳定区的信源。仿真验证了理论分析的正确性。其次,通过对nc-Fast ICA算法估计误差的分析,推导得出当信源为通信信号时能使得估计误差最小的近似最优非线性函数,并在调制类型未知的情形下,提出一种可行的方案来自适应选择近似最优非线性函数。基于对非线性函数的近似最优选取,提出了一种适用于通信信号盲分离的快速不动点算法,命名为E-nc-FastICA算法。仿真验证了所提E-nc-Fast ICA算法较传统的ICA算法在分离通信信号时性能有较大的提升。2、对复数负熵最大化(complex maximization of non-Gaussianity,CMN)算法性能进行了深入的研究,并结合特定的噪声环境提出一种去噪CMN算法。首先,对CMN算法的性能进行了深入的分析,通过从固定点迭代和代价函数两个角度对算法收敛性的分析,推导得出两个结论:第一,CMN算法有可能会收敛到错误的极值点,同样该错误解与算法的起始分离矩阵有关;第二,CMN算法能较好的分离处于非稳定区的信源。仿真实验验证了理论分析的正确性,同时也验证了并行提取的方法比串行提取的方法效果略好。因此,在对信源进行盲分离时,只要不是只提取其中某些特定的信源,建议使用并行提取的方法。其次,结合复噪声ICA模型,提出了一种噪声环境下的去噪CMN算法,该算法在预处理时采用伪白化技术,并且在后面的固定点迭代中考虑了噪声的影响,因此能更好的适用于噪声模型。理论证明了去噪CMN算法在噪声环境下的固定点迭代与原始的CMN算法在无噪声环境下的固定点迭代是等价的,从而说明了所提去噪CMN算法的无偏性。仿真验证了所提出的去噪CMN算法在噪声环境下的优越性。3、研究了经典复数ICA算法在MIMO-STBC系统盲分离中的应用,主要考虑了nc-FastICA算法和特征矩阵联合近似对角化(Joint Approximative Diagonalization of Eigenmatrices,JADE)算法。对于nc-Fast ICA算法,通过对其代价函数极值点的分析,得出大多数STBC信源在理想最优解处为代价函数的极值点,从而使得算法可以正确收敛;对于JADE算法,通过对STBC信源四阶累积量矩阵代数结构的分析,得出大多数STBC信源仍然满足可联合对角化的条件,从而可以用JADE算法来对其进行盲分离。这样,从理论上推导得出经典的nc-Fast ICA算法和JADE算法可以分离某些非独立信号,从而一方面扩展了算法的适用范围,另一方面为某些MIMO-STBC系统提供了一种较好的盲分离方法。最后,仿真验证了理论分析的正确性。4、提出了一种适用于多输入多输出正交空时分组码(MIMO-Orthogonal STBC,MIMO-OSTBC)系统的低复杂度的调制识别算法。在信道已知的情形中,首先利用OSTBC的正交特性,将MIMO-OSTBC系统模型转化为多个单入单出(Single Input Single Output,SISO)系统模型;然后,以每个调制符号的实部和虚部为一组,将多个SISO系统模型重组成多个双入双出(Two Input Two Output,TITO)系统模型;最后对多个重组后的TITO系统利用最大似然的思想来进行调制识别。在信道未知的情形中,首先结合二阶统计量的方法和ICA算法中帩度最大化的思想来估计信道。接着,针对不同的调制类型对估计出来的信道进行相位的部分校正。最后,证明了似然函数对部分校正后的剩余模糊不敏感,可以用估计出的信道进行调制识别。仿真验证了所提算法较多维最大似然算法具有较低的复杂度且性能损失并不大,同时也验证了所提算法能适用于更广泛的调制类型。