为了满足人们对信号处理更高的要求,非线性信号处理逐渐发展起来,作为非线性信号处理主要手段的非线性滤波器得到了广泛研究。层叠滤波器是一种具有层叠性和阈值分解性的非线性滤波器。根据阈值分解方式的不同,层叠滤波器分为传统阈值分解层叠滤波器(简称为传统层叠滤波器)和镜像阈值分解层叠滤波器(简称为镜像层叠滤波器)。与传统层叠滤波器相比,镜像层叠滤波器不仅具有低通特性,而且具有带通和高通特性。本文重点研究了镜像层叠滤波器的优化理论及算法,主要内容包括:首先,对层叠滤波理论进行了研究,包括:正布尔函数的定义、性质及生成算法,镜像层叠滤波器的定义及输出信号的快速重建,镜像层叠滤波器的优化模型,并对现有优化算法进行了简要介绍。其次,为了降低镜像层叠约束的计算量,引入一种二级小窗口级联递归滤波结构。级联窗口的滤波效果相对同样大小的单级窗口的效果得到了扩展:递归结构节省了运算空间,提高了滤波效果。本文通过实验仿真确定了最佳二级级联窗口的形状及尺寸。然后,针对离散粒子群算法寻优能力较差的缺点,提出了一种改进离散粒子群算法。该算法中引入精英集团和粒子自适应变异策略以提高算法的寻优能力,精英集团由适应度较好的若干粒子组成;粒子自适应变异策略根据粒子浓度自适应确定变异概率。仿真实验表明:与简单遗传算法和离散粒子群算法相比,应用改进的离散粒子群算法优化的镜像层叠滤波器较好地保持了原始图像的细节。接着,考虑到初始种群对算法搜索能力的影响,对初始种群要求不高的遗传算法进行了研究,改进了影响算法寻优能力的主要算子-交叉算子:将优秀个体与与其相似性差别较大、适应度较差的若干个体交叉,相似性根据个体间的汉明距离来衡量。仿真实验表明:与改进的离散粒子群算法相比,应用改进的遗传算法优化的镜像层叠滤波器的去除噪声性能有所提高。最后,为增加种群多样性,更有效地提高算法的全局寻优性能,对克隆选择算法进行了研究,并对其进行了如下改进:记忆群体采用多克隆算子,多克隆算子中的重组操作采用了改进遗传算法中交叉算子的思想;保留群体采用单克隆算子,单克隆算子中的变异操作采用改进离散粒子群算法中的自适应变异策略,此外群体间还进行信息交流,避免后期进化停滞。仿真实验表明:与改进粒子群算法和改进的遗传算法相比,应用改进克隆选择算法优化的镜像层叠滤波器的去噪和保持图像细节性能得到了平衡。