盲源分离或盲信号分离(BSS)，作为盲信号处理的一部分，是目前信号处理中的一个研究热点，在通信、生物医学信号处理、语音信号处理、信号分析及过程控制等领域有着广泛的应用潜力。盲信号分离的目标是在没有或很少关于源信号和混合先验知识的前提下，从一组混合观测信号中恢复原始信号。在本文中，主要研究和讨论了基于线性瞬态混合模型的盲分离算法及其应用。本文首先集中讨论了与盲信号分离相关的理论和方法。分析了盲源分离所需要的必要条件及分离过程中存在的不确定性；对于盲信号分离的预处理操作：中心化处理和白化处理的作用，作了简要的解释。给出了一些必要的信息理论知识，如熵、负熵、互信息、峭度及高阶累积量等，并讨论了盲源分离的一些经典算法。本文的主要成果如下：1．讨论了利用平稳源信号自相关性实现的盲信号分离，在这类问题中，基于线性预测器的盲信号提取方法是目前的研究热点。分析了预测器系数对盲提取效果的影响，鉴于目前只是用随机生成的方法来产生预测器系数，本文提出用Kalman滤波来估计预测器系数，改善了提取效果，并通过仿真验证了该方法的有效性。2．针对具有自回归模型的源信号提取，本文分别考虑了不含噪声和含噪的模型的情况，提出了目标函数及其算法，并作了相应的理论证明。该算法实质上是基于二阶统计量的方法，因此计算量小，提取速度较快。3．胎儿心电提取是盲信号分离的典型应用。本文在Barros工作的基础上，首先在忽略噪声的模型下，改进了Barros的算法，提高了提取速度，但提取的信号中仍含有一定噪声，这是因为在提取模型中忽略噪声的结果。因此，本文又考虑了含有噪声的模型，提出了新的目标函数以及相应的算法，对算法进行了理论分析，证明了算法能让目标函数单调下降，并提取出胎儿心电信号。通过仿真验证了方法的有效性，说明盲信号分离在胎儿心电提取中具有广阔的应用前景。4．具有非负源信号的盲分离问题，可转化为保持分离矩阵正交的情况下使得输出非负。改进了非负独立分量分析算法，增加了对分离矩阵正交性的约束，提高了分离效果。本文将改进的非负ICA算法用于人脸识别中，实验结果说明ICA特征提取法是人脸识别领域里的一个行之有效的方法。