近年来,滤波器组的理论和设计得到了非常广泛的研究,其在语音信号处理、子带编码、图像处理、雷达信号处理、多媒体信号处理等方面都有着广泛的应用。在众多的滤波器组中,调制滤波器组受到了很多的关注,原因在于其简单的设计和高效的实现结构。调制滤波器组可以分为余弦调制滤波器组和DFT调制滤波器组两大类。在一维调制滤波器组中,一维DFT调制滤波器组可以将信号的正负频率分开处理,这是具有实系数滤波器的余弦调制滤波器组所无法具备的特性,这一特性对于方向滤波器组的构建和复值信号的处理都是有益的。另一方面,不同于两维余弦调制滤波器组,两维DFT调制滤波器组可以将信号位于第一和第三象限(或第二和第四象限)的频率分量分开处理,这使得该类滤波器组更适用于处理复值信号。因此,对于DFT调制滤波器组的研究是很有意义的。虽然有很多的文献提出了一维DFT调制滤波器组的设计算法,但是大多数现有方法都是基于半定规划算法的,算法的计算复杂度较高,高效的一维DFT调制滤波器组的设计算法亟待提出。另一方面,很少有文献关注两维不可分的DFT调制滤波器组的理论和设计算法。本文正是基于这些背景下对一维和两维DFT调制滤波器组的理论、结构和设计算法展开深入研究的。本论文主要研究一维和两维DFT调制滤波器组的理论与设计问题,具体工作概括如下:(1)一维单原型的低延迟的DFT调制滤波器组的结构和设计。首先,分析了一维单原型低延迟DFT调制滤波器组的结构。传统的单原型DFT调制滤波器组无法具备低的系统延迟,为此,我们考虑一种新的单原型调制结构,以使得滤波器组具备低的系统延迟。然后,给出了这类滤波器组的设计算法。对于单原型的低延迟滤波器组,其原型滤波器的设计被归结为一个无约束的优化问题,目标函数是滤波器组传递函数失真和原型滤波器阻带能量的加权和,该函数是关于原型滤波器系数向量的四次函数。利用目标函数的梯度向量和Hessian矩阵,采用基于精确步长的改进牛顿法来求解相应的优化问题。在每一步迭代中,原型滤波器系数是通过求解线性等式得到的,算法的计算复杂度很低,因此,该算法可以用于高复杂度的滤波器组(滤波器组具备大通道数以及大支撑的原型滤波器)的设计。并且可以证明,所提出的改进牛顿法具备快速收敛性。仿真表明,设计所得的单原型滤波器组具备良好的整体性能。(2)两维双原型过采样DFT调制滤波器组的结构和设计。首先,回顾两维双原型过采样DFT调制滤波器组的基本结构。然后,研究了两维DFT调制滤波器组的容许性条件,即滤波器组具备良好整体性能的必要条件,首次提出了两维完全过采样的概念。其次,我们将滤波器组的设计归结为带约束的优化问题,目标函数是滤波器组的传递函数失真和混叠失真,约束是原型滤波器的频率特性,包括通带平坦性、阻带衰减等。最后,采用双迭代二阶锥规划算法来求解优化问题。在该算法中,当固定一个原型滤波器的系数,设计问题就退化为关于另一个原型滤波器系数的二阶锥规划问题。应用双迭代机制,分析和综合原型滤波器可以交替迭代求解。虽然,在每一步迭代中子设计问题是凸的,但由于原问题的非凸性,算法最终的设计结果依赖于初始值。因此,我们给出了一种设计初始原型滤波器的方法。实验表明,双迭代算法设计所得的双原型滤波器组具备优良整体性能。(3)两维单原型过采样DFT调制滤波器组的结构和设计。首先,回顾了两维单原型过采样DFT调制滤波器组的基本结构,给出了两维滤波器组无传递函数失真的空域条件。然后,我们提出了基于改进牛顿法的设计算法。在该算法中,两维单原型过采样DFT调制滤波器组的设计问题被归结为一个无约束的优化问题,目标函数是滤波器组传递函数失真和原型滤波器的阻带能量的加权和。利用目标函数的梯度向量和Hessian矩阵,我们采用基于精确步长的改进牛顿法来迭代求解上述设计问题。在每一步迭代中,原型滤波器的系数都是通过解析式求解得到。接着,我们证明得出算法是快速收敛的。最后,仿真实验表明设计算法具有很高的计算效率,并且设计所得的两维单原型滤波器组具有很好的整体性能。(4)两维过2采样DFT调制和临界采样修正DFT调制滤波器组的结构和设计。在图像压缩等应用中,要求两维滤波器组是无冗余的。然而,一般结构的两维临界采样DFT调制滤波器组难以同时具备小的重构误差和高的阻带衰减。本论文构建了两维的临界采样的修正DFT调制滤波器组。两维修正DFT调制滤波器组能够同时获得小的重构误差和高的阻带衰减。该滤波器组的结构是基于两维过2采样DFT调制滤波器组的。首先,分析了两维过2采样DFT调制滤波器组的结构,推导出其完全重构条件。基于多相位分解,给出了该类滤波器组的高效实现结构。然后,基于过2采样的滤波器组,构建了临界采样的修正DFT调制滤波器组。同时,推导出其完全重构条件。证明了一个结论:当滤波器组的综合原型滤波器和分析原型滤波器相同时,两维临界采样的修正DFT调制滤波器组和两维过2采样的DFT调制滤波器组具有相同的输入输出关系。接着,给出了这两类滤波器组的设计算法。对于双原型的过2采样的DFT调制滤波器组,提出了基于提升结构的设计算法。通过参数化滤波器组的完全重构条件,原型滤波器的设计转化为提升滤波器的设计。参数化结构保证了滤波器组的完全重构特性,仿真实验验证了这一点。对于单原型的临界采样的修正DFT调制滤波器组,提出了基于无约束优化的设计算法,通过最小化滤波器组的重构误差来设计近似完全重构的滤波器组。仿真实验表明,设计所得的滤波器组具有足够小的重构误差。