FIR滤波器及两通道滤波器组的广泛应用，使其优化设计研究备受关注。基于此现状，本论文对优化技术在FIR滤波器和两通道滤波器中的应用进行了讨论研究，对其中的一些不足进行了改进或提出了新算法。对FIR滤波器的优化设计，本文提出一种新算法：利用梯度下降法，在约束条件（限制峰值误差）下，对均方误差准则下的最佳滤波器系数进行迭代修正。设计过程简单，并得到最佳结果。对于两通道FIR滤波器组。首先，本论文提出一种设计正交镜像滤波器组的直接方法，该方法不利用多相分解，而以无混叠、无相位失真为出发点，通过减小幅度失真，使重建误差尽量减小。特点是算法简单，可用于两通道滤波器组优化设计的初始化。其次，对于线性相位FIR滤波器组实现标准重建的约束条件的非线性问题，本文利用Lagrange乘子法，通过迭代技术把非线性问题转化为最小加权均方误差问题，设计出H₀（z）和H₁（z）可以等长的标准重建系统，并且该方法对滤波器组的初始系数要求不高。最后，解决格型结构的两通道滤波器组中格型系数与滤波器的频率响应之间严重的非线性问题。根据遗传算法适用于处理传统搜索方法难以解决的非线性问题的特点，及其在滤波器（组）优化设计中体现的不足，如存在搜索空间大、种群易陷入局部极值点、收敛速度慢等问题。本文对遗传算法进行了改进，并把改进的遗传算法优化用于设计两通道滤波器组，解决了非线性问题。试验表明该方法提高了搜索速度和全局收敛概率，并能设计出性能良好的滤波器。