人们通过对自然界和现实生活中大量信息的分析和处理来获得认识和改造世界的能力。这些信息可能是已知的,但更多情况下对必要的信息却是未知的。将待认知的对象抽象为源信号,当源信号全部或部分已知时,根据已知信号通过适当的变换就可以将源信号还原出来。然而,在源信号和传输信道信息均缺失的情况下,仅依据有限的观测信号来分离、恢复源信号的过程,称为盲源分离。自从Herault和Jutten提出用神经网络方法实现语音信号盲源分离,在该领域作出开创性工作以来,关于盲源分离理论的研究层出不穷,并取得了丰硕的成果。盲源分离先后在语音识别、图像处理、地震勘探以及生物医学等领域获得了成功应用,引起了信号处理学界和神经网络学界的共同关注。随着应用化进程的不断推进,盲源分离算法所存在的问题也不断显现。对盲源分离算法进行深入研究并根据应用背景的需要提出改善性能的实用化技术,对进一步拓宽盲源分离的应用领域具有重要意义。本文围绕这一热点课题展开,并将研究重点放在卷积混合模型以及增强抗噪声鲁棒性和降低接收设备开销的实用化盲源分离技术上。按照传输信道混合特性的不同,盲源分离可分为线性瞬时混合模型和线性卷积混合模型,二者通过Fourier变换及其逆变换可以相互转换。学者们从不同角度出发,已经提出了很多改善盲源分离算法性能的方案。概括地说,现阶段尚存的有待进一步改进的问题主要集中在以下几个方面:如何克服模型中传输时延的影响求解出卷积混合信号,如何抵消加性高斯白噪声的影响保证分离算法的性能,如何利用尽量少的接收阵元来分离尽量多的混合信号。本文在对瞬时混合模型进行分析的基础上研究卷积混合模型及实用化盲源分离技术。盲源分离问题需要满足基本假设条件,其中独立性假设是核心所在,基于此建立起来的独立分量分析理论在用来分离独立源信号时与盲源分离是等价的。相似系数和性能指数是两个常用的评价算法分离性能的指标,分别从分离信号和分离矩阵的角度进行定义。盲源分离问题由分离准则和优化算法两部分构成,分离准则主要有基于信息论、基于最大信噪比和基于高阶累积量三类。本文采用自然梯度优化算法,分别对三类准则下的瞬时混合盲源分离算法进行仿真,结果表明高阶累积量准则对高斯噪声具有不敏感性,更适用于无线通信系统。当加权协方差矩阵的特征值接近时,基于高阶累积量的算法容易陷入局部极值而无法正确分离所有信号,基于归一化峭度的顺序盲源提取算法可以从混合信号中提取出具有特定属性的信号。线性卷积混合模型经过Fourier变换可以转化为频域的线性瞬时混合模型,因此解卷积至少可以有时域和频域两类方法。时域分离算法卷积计算量大、方法复杂,收敛性能也一般,频域分离算法可以利用FFT快速运算,但是需要解决各个频点上分离子信号排序不一致的问题。频域分离模型体现了噪声消除与信号分离之间的矛盾,本文通过对无噪情形下混合矩阵结构的分析,找到分离子信号排序不一致的根源并提出两项解决方案。定义邻频幅角比参数来寻找差错频点位置,纠正相应位置上的分离子信号到一个相同的顺序上,解决了频域算法的排列顺序不一致这个瓶颈问题。自适应耦合法引入耦合因子来保持相邻频点上分离矩阵的相关性,无需单独的排序过程,降低了出现顺序混淆的概率。仿真表明其效果虽然没有邻频幅角比好,但避免了额外的运算量开销,可以在精度要求稍低的场合下使用。总体上来说盲源分离算法尚处于理论研究阶段,推广到实际系统时存在着一些制约算法性能的因素。一方面,接收设备处存在加性高斯白噪声,无论是高阶累积量还是子空间理论,都只具备十分有限的噪声抑制能力。本文提出采用时频分析作为噪声预处理手段,首先提高观测信号的信噪比继而再进行盲源分离。分别设计了分阶段噪声预处理方案和时频联合两步消噪预处理方案,充分发挥了经验模态分解收敛速度快和小波变换消噪性能稳定的优势,两步化的预处理方案可以使观测信号的信噪比降低到一个较为理想的程度,提高了算法整体的抗噪声性能。另一方面,实际应用中多数情况下系统是一个黑匣子,无法根据源信号的数目来设计接收阵列的规模。即使已知源信号数目,当数目太大时接收阵元的规模也将同比增加,从而带来昂贵的设备开销。为简化接收设备的复杂度,有必要研究接收阵列低元化的盲源分离技术。本文在稀疏成分分析的基础上,着重于聚类环节的实现,提出一种将K-mean聚类和Kohonen神经网络聚类相结合的K-Kohonen混合聚类算法,不仅加快了Kohonen网络的收敛速度,而且可以获得精确的聚类结果。结合主分量分析,提出基于混合聚类算法的K-K-P欠定混合盲源分离算法,能够比较准确地估计信道混合矩阵,从而实现阵列低元化下的盲源分离。在算法实用化和降低设备消耗方面给出重要的研究结果。盲源分离在很多领域都获得了成功的应用,但应用于通信系统的盲源分离算法的性能却被一些实际因素所制约。作为应用性探讨,本文对卷积混合模型进行简化,在莱斯衰落信道下讨论了多径数、莱斯因子和最大传输时延三个参数对分离性能的影响,并通过仿真试验给出了数值结论。