在源信号和传输信道均未知的情况下，仅利用观测信号恢复源信号，称为盲信源分离(BSS)，惟一的假设是信源之间相互独立。一方面，盲信源分离不需要任何先验信息就可以恢复源信号，这将使其成为一种前景诱人的信号处理技术；另一方面，盲信源分离模型具有一般性，绝大多数观测量都符合信源之间相互独立的假设，因此盲信源分离具有非常广阔的应用前景。论文主要研究了混合信号中包含非平稳信号和同时包含超高斯亚高斯信号的盲信源分离问题，同时对自适应盲信源分离算法中步长参数的选取进行了研究。主要研究内容和成果为：1．简要概述了盲信源分离的信号混合模型，讨论了三种混合模型及其基本假设；给出了与盲信源分离有关的信息论基础，包括熵、互信息、负熵的概念及基本性质；阐述了独立分量分析(ICA)的准则，讨论了基于互信息的代价函数，得到了常用的自然梯度算法，并讨论了算法的局部稳定性。2．针对非平稳源信号混合情况下的盲信源分离问题，由非完整约束条件，推导出了正交性约束的自然梯度算法，实现了非平稳源信号的分离；在此基础上，根据输出分量的相关性，给出了相关性测度的概念，研究了相关性测度与步长之间的关系，提出了一种基于相关性测度的变步长正交性约束的自然梯度算法，使得算法的分离效果更好。仿真实验验证了算法的有效性。3．研究了超高斯和亚高斯信号同时存在时的盲信源分离问题，提出了基于峰度符号估计的自然梯度算法和基于概率密度函数估计的等变化源分离(EASI)算法：前者在源信号的合成概率模型基础上，将超高斯信号和亚高斯信号统一到同一个合成概率模型中，给出了相应的参数化非线性函数形式，然后通过在线估计输出信号峰度的符号，以此确定出非线性函数中的参数，实现超高斯和亚高斯信号混合情况下的信源分离；后者利用输出样本直接估计输出信号的概率密度函数，进而估计出非线性函数，以此来实现超高斯和亚高斯信号混合情况下的信源分离。仿真结果表明，这两种算法均可以实现超高斯和亚高斯信号混合下的盲信源分离。4．在盲信源分离算法中，步长参数的选择对算法的收敛速度和稳态性能具有重要的作用。论文中定义了相关性测度和高阶相关性测度，详细分析了输出分量的相关性测度与步长参数之间的关系，构造出了步长选取的模糊推理系统，与基本的自然梯度、正交性约束的自然梯度和峰度符号估计的自然梯度算法相结合，提出了模糊变步长的自然梯度算法、正交性约束的自然梯度算法和峰度符号估计的自然梯度算法；对这三种算法进行了仿真实验，与固定步长的同类算法相比，模糊变步长算法具有更快的收敛速度和更小的稳态误差。