随着信息时代的飞速发展,传感器接收到的观测信号越来越复杂。从观测信号中提取出有用信息是当前信号处理领域研究的重点和难点,尤其是解决盲信号的分离问题。其中,盲源分离（Blind Source Separation,BSS）结合了信号处理、神经网络和数理统计等方面的特点,被广泛地应用于通信技术、生物医学、语音分离和图像处理等诸多领域。在不同混合模型下研究传输信道对盲信号分离方法的影响可以解决相应的实际问题,混合信道环境越复杂盲信号分离的难度就越大。因此,针对观测信号在不同混合条件中面临的分离问题,本文分别在瞬时、延时和卷积混合模型下研究了对应的盲信号分离方法,主要的研究工作如下:（1）针对瞬时混合模型中观测信号在正定、欠定和单通道条件下的盲分离问题,本文利用信号的统计独立性和时频域稀疏性分别研究了对应的三种盲源分离方法。为了解决瞬时混合多维信号在特征提取时面临的信源和噪声分离问题,本文基于统计独立性提出了一种HIWO/BBO（Hybrid Invasive Weed Optimization/Biogeography-Based Optimization）优化的BSS方法。采用正交矩阵参数化表示的方式降低计算复杂度,并结合NA-MEMD（Noise Assisted-Multivariate Empirical Mode Decomposition）实现了多维信号的特征提取。同时,为了解决观测信号数小于信源数的瞬时混合盲信号分离问题,本文利用信号在时频域的稀疏性提出了一种带信源数估计的UBSS（Underdetermined Blind Source Separation）方法。将散点夹角概率分布和频域能量之和作为信源数和混合矩阵估计的测度,并采用L1范数组合法实现源信号的恢复。此外,为了完成从瞬时混合的单通道观测信号中恢复出多维信源的任务,本文基于信号在时频域足够稀疏的假设提出了一种无需估计信源数的SCBSS（Single Channel Blind Source Separation）方法。单通道观测信号经TVF-EMD（Time Varying Filter-Empirical Mode Decomposition）分解后可以得到重构信号,再将单通道观测信号和重构信号组成欠定形式,借助UBSS方法解决SCBSS问题。实验分别验证了在正定、欠定和单通道条件下三种瞬时混合盲源分离方法的有效性。（2）针对欠定条件下源信号传输时存在衰减延时的问题,本文基于信号在变换域中的稀疏性提出了两种解决延时混合的UBSS方法,即基于幅度谱的方法和基于频域能量的方法。首先,通过理论分析可知观测信号的幅度谱和频域能量可以用来构造稀疏域,利用信号散点的线性聚类特性消除延时影响。其次,在幅度谱中将散点夹角的概率分布峰值作为估计信源数的依据,在频域能量中利用势函数峰值估计信源数。再次,根据估计信源数将幅度谱中散点到原点距离峰值对应的频点筛选出来预测时频掩码,而在频域能量中则根据估计信源数筛选出频域能量之和峰值对应的频点构造二进制时频掩码。最后,分离信号短时频谱逆变换到时域时存在的边界效应将采用填充线的方式消除。仿真实验表明,基于幅度谱和频域能量能的两种方法都能消除信号混合过程中的时延影响,从而验证了稀疏域理论分析的正确性。此外,与现有方法相比所提的两种延时UBSS方法在处理模拟信号和实测信号时都表现出了优异的分离性能。（3）针对卷积混合模型中CBSS（Convolutive Blind Source Separation）频域方法存在的混合频谱分离和频点排序问题,本文提出了一种基于张量分解和功率比全局优化排序的CBSS方法。利用张量分解技术计算出每个频点上对应的因子矩阵作为该频点的估计混合滤波器矩阵,并且采用以功率比作为测度的全局优化排序策略消除了全频段的排序模糊性。此外,为了提升频点排序准确性从而解决全频段频谱校正的问题,本文又提出了一种基于NMF（Nonnegative Matrix Factorization）和CCA（Canonical Correlation Analysis）的影响因子频点排序方法。将NMF分解得到的激活矩阵作为频点排序测度并利用CCA取代传统的最大化相关系数之和的方式降低频点排序复杂度,再结合影响因子策略完成相邻频点的排序任务。同时,为了克服该频点排序方法在获取激活矩阵时计算时间长的缺点,采用JADE（Joint Approximate Diagonalization of Eigenmatrices）方法实现混合频谱的分离。实验表明,所提CBSS方法在不同仿真条件下处理卷积混合的实测语音时表现出了比现有算法更优异的分离性能。