小波变换具有良好的时频分析能力，被广泛应用到图像处理的各个领域。它是一种一维分段光滑信号的最优表示方法，却不能有效表示二维图像中具有多方向性的边缘和纹理等几何特性。为了寻找最优的图像表示方法，多尺度多方向变换被提出来并迅速成为当前研究的热点，其理论基础和应用潜能正不断地被完善和开发。 本文以图像压缩和图像去噪为主要应用背景，对小波变换、Contourlet变换和Bandelet变换进行了深入分析以及结构扩展，设计了提高图像压缩和图像去噪性能的新方法。主要做了以下几个方面的研究工作： 1.由于图像压缩中小波基选择的多样性，提出了一种用于图像压缩的最优双正交小波构造方法。该方法给出了一种单参双正交小波的设计准则，它在正则性和滤波器长度上对小波滤波器进行平衡，提高了小波滤波器的频带特性。通过编码增益和时频分辨率的均衡不确定度建立了单参量评价函数，对该函数取最大值可获得应用于图像压缩的最优双正交小波。实验表明，该方法实现简单，它只需图像的相关系数，同时获得了比其它同类小波更高的峰值信噪比。 2.分析了方向滤波器组中菱形/扇形滤波器的构造原理，给出了‘Dmaxflat’系列扇形滤波器组的设计流程。联合二维小波变换和方向滤波器组获得非冗余Contourlet变换，并与EBCOT编码器相结合，实现了一种新的图像压缩算法(称为CEBCOT)。它克服了JPEG2000不能有效地保护图像边缘和纹理的缺点。对于富含直线特征的图像或者当低码率压缩时，CEBCOT与JPEG2000相比，获得解压图像的峰值信噪比提高了0.1～0.7dB。 3.由于第二代Bandelet变换是通过量化步长来控制最佳Bandelet化过程，难以实现定码率图像压缩。为了解决这个问题，提出了一种通过非线性逼近来控制最佳Bandelet化过程的方法。改进的第二代Bandelet变换结合EBCOT编码器，实现了一种新的图像压缩算法。该算法与JPEG2000相比，获得解压缩图像的客观评价相当，但具有更好的边缘和纹理保护能力。 4.提出了一种新的图像多尺度多方向变换(称为 CBlet)，它包括了第二代Contourlet变换和第二代Bandelet化过程两个部分，兼顾了两者的优点。其中第二代Contourlet用来捕获图像边缘和纹理等几何结构，而Bandelet化过程自适应地搜索几何结构并去除其相关性，获得了更稀疏的图像表示。采用分层多阈值去噪方法，并且引入cycle spinning操作来减少伪Gibbs和皱褶效应。实验表明，在峰值信噪比和视觉质量两方面，基于CBlet变换的去噪方法均优于基于第二代Contourlet变换的方法。 5.提出了一种完全重构的M带非采样二维金字塔变换设计方法，它采用级联2带非采样滤波器组的思想来实现。其中，每个级联的滤波器可通过设置通带和阻带截止频率来计算。该变换结合方向滤波器组获得的图像表示方法(称为M-Contourlet）能对图像进行更精细的多尺度多方向分解。M-Contourle的分层多阈值去噪实验结果优于第二代Contourlet变换，峰值信噪比提高了0.1～0.8dB。 6.为了提高二维小波变换获取图像方向信息的能力，提出了一种基于图像可逆旋转的小波变换方法(称为RBWT)。首先设计了一种基于栅格的可逆图像旋转方法，然后将二维可分离小波基作用于旋转图像。RBWT可实现图像任意方向的小波分解，有利于提取感兴趣的图像方向信息。最后给出了RBWT的图像去噪和图像融合应用，获得了满意的实验结果。