现实环境中,麦克风接收到的语音信号通常是纯净语音与其他干扰信号的卷积混合。有些情况下,人们对这些源信号及传输通道知之甚少,所以利用盲源分离(Blind Source Separation, BSS)方法,从麦克风观测信号(混合信号)中估计出纯净信号,即进行语音盲解卷,已成为语音信号处理的重要课题。在语音盲解卷中,存在两种较为困难的情况。一是欠定混合情况,混合语音信号的数目少于源信号的数目。此时,一些传统方法已经无法实现分离。有学者利用信号的稀疏性提出时频掩蔽(masking)的分离算法,但若信号的稀疏性不够强,该算法无法得到令人满意的分离效果。再就是,现有的盲解卷算法大都是针对源信号个数已知且在分离过程中恒定的情况。然而,在实际混合过程中,源信号个数可能是时变的。这时,传统方法将因模型失配而无能为力。针对以上两大问题,本文主要做了以下三方面的工作：(1)研究了欠定卷积混合情况下,基于感兴趣语音波达方向的时频masking抽取算法,并提出了通过提高采样频率来增强信号稀疏性的方法。应用仿真和实际录制语音信号的抽取实验结果表明,该方法能增强信号稀疏性,进而提高语音的抽取性能。本文还通过大量仿真实验研究了源信号之间夹角及其波达方向对抽取结果的影响；(2)在将时频masking分离算法应用到欠定卷积混合语音的分离之中时,为了消除盲源分离频域算法普遍存在的顺序模糊性,本文研究了幅度相关性最大及mask聚类调序算法,并将这两种算法结合起来,提出了一种新的改进调序算法。仿真及实际语音分离实验结果表明,改进的调序方法优于幅度相关性最大调序法和mask聚类调序法；(3)针对混合过程中源信号个数时变的情况,研究了消除固定位置上源信号的抵消滤波器算法,根据所建立数据矩阵的特性提出了一种分离矩阵的设计方法。实验结果表明,该方法能够很好地分离信源个数动态变化的混合语音,并且与原算法相比计算更简单,大大节省了运行时间。