在信号处理领域中，存在着一类非线性滤波问题。即混合信号的组成是原始信号与噪声乘积或卷积的形式。这时采用普通的线性滤波方法是行不通的。近年来，许多学者也相继提出了小波变换、自适应滤波等算法，本文应用同态滤波技术，实现了对这类信号的滤波与信噪分离处理。本文首先对同态系统的定义、结构进行了阐述，并引入了复倒谱的概念，对它的性质和计算方法进行了讨论。采用相位补偿法解决了复倒谱的相位多值性问题。本文的中间部分，讨论了两类同态滤波器的构成及其应用。对于乘法同态系统，有两个具体的应用，即：轨道FSK信号中混有乘性干扰噪声问题；图像的乘积因子（照度分量和反射分量）的不合理配置，引起的图像光照不均匀问题。本文应用同态滤波技术，分别对轨道噪声信号和光照不均的图像实现了信噪分离和对比度校正。从结果来看，信噪分离效果明显，图像也变得更加清晰且光照均匀。在卷积同态系统中，以两种常用水声信道为信号传输环境，针对信号在多径水声信道内的混响问题，应用同态滤波技术实现了对混响波的直达波提取，恢复后的信号误差较小，但需要较高的信噪比条件。最后，本文结合两个具体工程应用实例，提出利用同态系统来提升估计性能。第一种应用，实现了广义倒谱相关法提取时延，这种方法比传统的互相关法时延估计精度更高，这为水下精确定位提供了保障；第二种应用，实现了倒谱法进行目标识别，提取出舰船辐射噪声的特征信息，此种方法比常用的功率谱法的抗噪声性能更好。