盲信号分离是指在源信号及其混合传输信道未知情况下,仅仅利用观测到的混合信号来估计源信号。由于盲信号分离具有非常广泛的应用领域,如生物医学工程、语音增强、数字通信系统、图像处理、遥感、雷达和声纳等领域,从而成为现代信号处理领域研究的热点问题。以往的研究大多是基于观测信号个数必须大于源信号个数,而且一般假设源信号个数已知。然而,在实际应用中这些条件往往不能满足。本文围绕这些问题展开研究,重点研究源信号数目未知时欠定混合信号的盲分离问题,也就是观测信号个数少于源信号个数的盲信号分离问题。论文的主要工作概括如下:1、在信号为稀疏信号的前提下,利用稀疏混合信号聚类特点,针对欠定稀疏混合信号盲分离问题,提出了拉普拉斯势函数法。在源信号个数未知条件下,对于充分稀疏混合信号,采用拉普拉斯势函数法来估计源信号个数和混合矩阵,再用线性规划法来估计源信号。对于不充分稀疏混合信号,则利用聚类平面势函数法先估计聚类平面的法线向量,再利用势函数法来估计聚类平面的交线,得到源数和混合矩阵的估计;然后,利用其混合信号子空间聚类特点,采用部分信号分离法来恢复源信号。为了减小噪声和异常值对势函数值估计的影响,与以往直接计算势函数值的方法不同,而是采用聚类算法来估计聚类中心势函数的大小,并对算法的鲁棒特性进行了分析。2、在有噪声和源数未知条件下,针对欠定稀疏混合信号盲分离问题,提出了基于鲁棒竞争聚类学习算法来实现欠定混合信号盲分离。在源信号个数未知的条件下,对于充分稀疏混合信号,利用竞争聚类学习算法来估计聚类中心势的相对大小,利用聚类中心势的相对大小来估计源信号的个数以及混合矩阵,最后利用基追踪法来估计源信号。将鲁棒竞争聚类算法扩展用于不充分稀疏信号混合条件下的欠定盲分离问题,先利用鲁棒平面竞争聚类算法估计聚类平面的法线向量,再利用估计出的聚类平面,采用势函数法来估计聚类平面的交线向量及其个数,得到源信号个数和混合矩阵的估计。3、在非负信号约束下,针对适定或过定线性瞬时混合模型,提出了基于最小相关约束的NMF方法来实现盲信号分离。该方法通过使分离信号的每行之间的相关最小来提高信号分离的效果。同时将最小相关约束的NMF方法扩展用于卷积混合信号盲分离。4、在假定源信号为非负稀疏信号的基础上,提出一种tri-NMF算法来实现欠定混合信号盲分离,而一般情况下,常用的NMF算法不能用于欠定混合信号盲分离。该算法利用压缩采样技术原理,将一般非负矩阵分解转换为tri-NMF问题,并在目标函数中引入稀疏约束,提出一种新的乘法更新算法来实现欠定混合信号盲分离。