盲源分离(BSS)无需知晓源信号和传输通道的相关信息,只从接收端就可完成信号的估计与恢复。由于在故障诊断、语音增强、遥感等方向拥有广阔的应用前途,1980年开始研究至今,BSS相关理论和现实运用都获得飞速成长,现已是信号处理学科的热门方向。但是,BSS在实际应用中也暴露出一些问题,例如分离性能受限等。本文首先介绍BSS问题的背景、发展及国内外研究现状,紧接着阐述BSS基本模型、预处理方法、分离判据和评价指标等基础理论,然后以等变自适应盲源分离(EASI)和单通道盲源分离(SC-BSS)为对象,从正定和欠定两个方向对BSS开展研究,具体研究内容包括:(1)针对基于串音误差的变步长EASI(VEASI)算法中串音误差在源信号各分量能量差别大,或者全局矩阵为某些非行元素优势矩阵时无法精确评判分离效果的缺陷,提出基于分离度和串音误差的变步长EASI(IVEASI)算法,综合串音误差和分离度调节步长,提高分离性能。(2)针对IVEASI算法中初始矩阵随机选取导致的收敛速度问题,提出基于RW-MCSO算法的IVEASI算法。在鸡群算法小鸡、公鸡粒子位置更新中引入变异因子和随机惯性权重,提出RW-MCSO算法,利用RW-MCSO算法优化IVEASI算法的初始分离矩阵,提高IVEASI算法的收敛速度。(3)针对基于经验模态分解(EMD)的SC-BSS算法中EMD存在端点效应和模态混叠的问题,结合变分模态分解(VMD),提出基于VMD的SC-BSS算法。首先采用VMD将单通道观测信号分解为一系列本征模态函数(IMF)分量,将单通道信号和其IMF分量构成多维信号,采用主成分分析法估算源数,依据源数重构多通道混合信号,然后采用BSS方法完成分离。相比于EMD方法,VMD方法在相关系数和均方根误差上都有所提高。