随着数字信号处理技术的发展,非对称频率响应的复系数FIR滤波器应用越来越广泛,例如机载雷达和主动声纳系统上用于消除杂波的陷波滤波器,通信信道均衡器,TDM-FDM多路转换正交滤波器以及希尔伯特变换的包络监测等,因此复系数FIR滤波器的设计问题越来越受到研究者的关注。本文研究给定幅值误差和相位误差的复系数FIR滤波器设计问题。现有的基于频域约束的FIR滤波器的设计方法主要存在下列问题:1.误差约束方法的不足。在频域约束FIR滤波器设计中,常见的误差约束方法有三种:一是只对频率响应误差进行约束;二是同时对幅值误差和相位误差进行约束;三是同时对幅值误差和群延迟误差进行约束。这三种误差约束方法均有其各自的不足之处,需要对这些方法进行改进,使得到的设计模型容易求解并方便控制各种频率响应误差。2.群延迟误差约束的非凸性。虽然有文献提出了一些方法来控制FIR滤波器的群延迟误差,但是这些方法的思想基本是直接基于群延迟的。由于群延迟误差约束一般是非凸的,需要采用近似的方法将它们化为线性约束或正定二次约束,处理起来比较麻烦。3.设计方法的通用性差。对于约束FIR滤波器设计,人们已经提出了不少设计方法,如线性规划、二次规划方法等。这些方法中有的只能针对特定形式的问题,有的可以解决更广泛的一类问题。但是用于解决复系数FIR滤波器设计问题,特别是二维复系数FIR滤波器设计问题时,算法的效率变得很低。为了解决现有方法存在的这些问题,本文针对给定幅值误差和相位误差的复系数FIR滤波器设计问题,主要做了如下的研究工作:1.改进的误差约束方法的应用。传统的三种误差约束方法由于各自的缺点,都有其各自的局限性。文献[8]提出了一种同时对频率响应误差和相位误差进行约束的方法,不仅能够独立控制滤波器的幅值误差和相位误差,而且得到一个凸的约束可行域,进而可应用凸优化算法来求解设计问题。本文将这种误差约束方法应用到复系数FIR滤波器的设计中,设计实例表明这种推广应用的可行性。2.减小群延迟误差方法的推广。在低通FIR滤波器设计中,为了减小滤波器的带边群延迟误差,文献[8]提出了一种右边S形相位误差上界函数。结果表明这种方法能够有效地减小滤波器的带边群延迟误差。本文首先将这种方法应用到一维复系数FIR滤波器的设计,应用左边和双边S形上界函数,对相位误差进行约束,以减小带边群延迟误差。本文的重点工作是将这种S形相位误差上界约束方法推广到二维复系数FIR滤波器设计中,提出一种二维S形函数,对圆形滤波器的相位误差上界进行约束。设计结果表明这种推广的S形相位误差上界约束方法,对减小圆形滤波器的带边群延迟误差非常有效。3. SDP方法的应用。对于约束FIR滤波器设计问题,现有的一些方法要么只能解决特定形式的问题,要么求解的效率非常低。特别是对于二维复系数FIR滤波器设计问题,利用这些方法求解效率会更低。而SDP方法是目前比较流行的一类数学优化方法,它能够对一大类的凸优化问题问题进行精确求解。SDP方法的内部是采用稀疏矩阵和对角块的结构形式存储约束矩阵,因此算法的执行效率比较高。更重要的是现在有很多专门求解SDP问题的商业软件,因此求解的质量可以得到保证。本文应用SDP方法求解给定幅值和相位误差的复系数FIR滤波器设计问题,设计结果表明SDP方法的有效性。