信号分离和重构是近年来信号处理领域的研究热点,它已经被广泛应用到语音和图像信号处理、生物医学信号处理、雷达、通信等许多领域。当在混合过程未知、源信号未知的情况下,利用少量先验信息,从观测到的混合信号中恢复出源信号称为盲源分离。以往的研究多假设混合信号的个数多于或等于源信号的个数,但是实际情况下,这个条件往往不能满足,因此研究源信号个数多于混合信号个数的欠定信号分离更具有实际意义。本文将研究欠定信号分离问题,包括多通道的欠定信号分离,单通道信号分离及其在语音分离、语音增强中的应用。论文的主要工作概括如下：1.针对弱稀疏信号的欠定盲分离鲁棒性差的问题,提出了一种基于单源点检测和人工蜂群算法的盲分离方法。首先分析了已有单源点检测算法的不足,并通过相邻帧观测信号的实虚部来检测单源点,然后通过两阶段采用不同搜索策略和编码方式的人工蜂群算法对混合矩阵进行估计。在全局搜索阶段,定义了一种适合于“线聚类”的全局目标函数,充分利用聚类的特点,通过改变蜂群的行为方式,提高了算法的收敛速度；在局部搜索阶段,定义了局部目标函数,通过子蜂群之间的协同作业,进一步提高了混合矩阵估计的精度。最后,通过线性规划法恢复出源信号。该方法对初始值不敏感,在源个数较多、弱稀疏、低信噪比的情况下仍然可以很好完成对源信号的分离,而且不需要太大的计算量。2.针对源信号在时频点相互重叠的情况,提出了基于局部混合模型和源信号活动状态判断的欠定盲分离方法。在每个时频点激活源信号个数不超过混合信号个数和源信号具有局部平稳性的条件下,得到了局部混合模型来描述局部区域内观测信号的分布。将各时频点上源信号的活动状态作为隐变量,通过最大期望算法估计局部区域的方差参数和权重因子,以此获得源信号状态的最大后验估计,并由此恢复出源信号。该方法不要求局部区域内各时频点的主导源必须是完全一样的,可以对每个时频点的源信号状态进行独立的判断。实验结果表明,该方法具有很快的收敛速度和更好的分离性能。3.针对不同分布类型的源信号,提出一种基于广义高斯模型和马尔科夫链蒙特卡洛的子空间欠定盲分离方法。用广义高斯分布来拟合源信号的分布,将模型参数看作随机变量。为了解决零空间隐变量和参数的联合后验条件概率密度函数的高维多重积分无法实现的问题,根据子空间性质推导出所有的全条件概率密度,然后通过Gibbs和Metropolis-Hastings混合抽样,得到源信号的最小均方误差估计。该方法即可以对超高斯信号(稀疏信号)进行分离,也可以对次高斯信号(非稀疏信号)进行分离,而且解决了模型参数估计容易陷入局部极值点、鲁棒性差的问题。将该方法用于非稀疏区的信号分离,提出了基于非稀疏评判准则的欠定盲分离方法,进一步提高了语音信号的分离性能。4.研究了混响环境中的语音信号欠定盲分离问题。针对卷积盲分离的频域解决方案,提出了基于子频段和人工蜂群算法的排序校正方法,该方法可以更好的解决排序模糊的问题。针对伪消声解决方案,提出了观测信号的局部广义高斯混合模型,进一步讨论了语音信号的最佳局部分布,然后通过该模型分离出语音信号。该方法可以提高分离效果,不需要解决排序模糊的问题。5.将单通道信号分离应用于语音增强,提出了一种基于非负矩阵分解的单通道语音增强算法。基于非负矩阵分解的语音增强方法对于非平稳噪声具有更好的去噪能力,通过对带噪语音的幅度谱进行非负矩阵分解,得到语音和噪声的基矩阵和时变增益系数矩阵,进而通过维纳滤波分离出语音信号和噪声。由于噪声的时变增益系数在相邻时间帧具有较强的相关性,通过在目标函数中增加相关性约束项来提高语音和噪声时变增益系数的估计精度。针对该目标函数,给出了一种有效的算法对其进行优化,从而可以更好的达到语音增强的目的。