盲源分离(Blind Source Separation,BSS)技术是二十世纪九十年代后期发展起来的一种信号处理技术。目前,很多盲分离算法都假设观测信号的数目不少于源信号的数目。然而在实际应用中,有可能会发生源信号数目多于观测信号数目的欠定情况。国内外针对欠定条件下盲分离算法的研究主要是集中在稀疏性很强的信号,但是很多信号并不严格满足稀疏特性,因此,研究欠定盲源分离中源信号并不充分稀疏的条件下估计混合通道的系数和恢复源信号对盲分离技术的发展有重要的意义,也是目前必须予以解决的问题。单通道盲信号处理技术已经得到了一定的发展,特别是在语音信号处理、生物医学信号处理、移动通信等领域。本质上,单通道盲分离算法的内在机制都是利用了信号分量之间的差异性,目前,如何雷达信号和数字调制信号的特点对混合信号进行分离具有迫切性和重要的意义。本文的核心工作和创新点主要体现在以下几个方面:1)系统地研究了盲源分离理论的相关知识,如稀疏理论、欠定条件下估计混合矩阵和信号盲分离的基本原理、JADE算法、FPICA算法和衡量估计混合矩阵和分离源信号误差的性能指标。2)研究了基于比率矩阵聚类的欠定盲分离算法,同时比较了最短路径法和基于稀疏分解的统计量算法在源信号并不充分稀疏时恢复源信号的性能。结合计算机仿真实验结果,验证了算法的有效性。3)研究了基于检索平均的欠定盲分离算法,分别在时域和频域中对雷达和数字调制信号进行分离,并且利用雷达信号脉冲串特性和到达时间差使源信号在时域上满足部分稀疏的特性,从而达到恢复源信号的目的,并且通过大量的仿真验证了算法的性能。4)研究了基于ICA的欠定盲分离算法,由计算机仿真结果,以及与传统的K均值聚类算法和检索平均算法对比的实验结果说明了算法的有效性和鲁棒性。5)研究了基于载波相位和基于多项式相位的两种基于信号特征的盲分离算法,充分挖掘源信号各个分量的先验信息和差异性,实现混合信号的分离,并通过一系列的计算机仿真实验验证了算法的性能。