超小波分析和变分方法是当前数学图像处理和计算机视觉等领域最具代表性的两种研究方法。超小波分析是应用现代调和分析的概念和方法以及群表示理论，在小波分析的基础上发展起来的，是小波理论的新进展。其目的旨在检测、表示、处理某些高维空间中的数据，而这些数据的某些重要特征又集中于低维子空间中。对于含线奇异、面奇异的二维或高维函数，超小波分析显示出了比小波分析更好的“稀疏”表示能力。与计算调和分析方法不同，变分方法是图像处理中的另一有效工具，在图像去噪、图像增强、边缘检测等方面已经取得很多成功的应用。本文以图像处理为应用背景，围绕超小波分析和变分方法进行了一些有益的探索和研究，并取得了初步的研究成果。主要研究结果如下：1、讨论了曲线波变换和反应扩散方程，并结合曲线波变换和反应扩散方程提出两种图像去噪算法。详细讨论Nordstr m能量泛函极小化问题，从Nordstr m能量泛函的欧拉方程出发，通过重新定义合适的控制函数提出一种新型反应扩散滤波器模型和图像去噪算法。该滤波器模型不是直接求解偏微分方程或者是泛函极值，而是求解数字形式的非线性代数方程组，求解过程简单。讨论了模型的优缺点，通过引入平滑算子和新的扩散函数对该模型进行了改进，有效克服了反应扩散数字滤波过程中的斑点噪声和扩散系数的病态。分析了该滤波器模型的迭代过程，从理论上证明了该滤波器模型的性质和滤波迭代算法的收敛性。数值实验表明所给滤波器模型对不同类型、不同程度噪声污染的图像都有较好的处理效果。为了抑制曲线波变换去噪中出现的“虚假”效应和去除反应扩散数字滤波过程的斑点噪声，提出一种结合曲线波变换和新型反应扩散滤波器模型的图像去噪算法。实验结果表明，所提算法在有效去噪和保持边缘的同时，一定程度上也克服了曲波变换本身的伪Gibbs效应和类曲波伪曲线现象，视觉效果较好。2、讨论了波原子变换的基本特征、构造及数值实现，研究了波原子在图像处理中的应用。提出两种基于波原子变换的图像去噪算法。一种是基于波原子系数全变差最小的图像去噪算法。由于硬阈值算子的不连续性和波原子变换的FFT周期化过程，在去噪图像的不连续点附近产生了新方向性纹理失真和伪Gibbs震荡，而全变差正则化可以抑制这些震荡。将超小波分析和变分方法有机地结合起来，提出了基于波原子系数全变差最小化的图像去噪算法。该算法首先对降质图像利用波原子变换和非线性阈值，然后根据保留的变换系数确定可行域建立模型，最后利用投影梯度算法对其进行求解。实验结果表明，所提算法在有效抑噪和保持边缘的同时，能够有效地抑制伪吉布斯震荡，取得较为理想的视觉效果。另一种是基于Cycle Spinning思想的波原子变换图像去噪算法。由于波原子变换不具有平移不变性，对系数阈值后会产生伪Gibbs现象，而Cycle Spinning可以很好地避免这些失真。将波原子变换和Cycle Spinning有效结合，提出了基于CycleSpinning的波原子变换图像去噪算法。实验结果表明，所提算法可以很好地减少图像在波原子阈值去噪过程中出现的伪Gibbs现象，且能更多地保留图像的纹理细节，视觉效果明显地较曲线波、小波方法要好。3、基于对偶树复小波变换，提出一种图像质量评价的结构相似性指标。对图像采用小波变换进行多分辨率分析，可以将图像分解为不同尺度下的子带图像，这样图像的边缘结构就表达成不同尺度下的小波系数。对偶树复小波变换具有平移不变性和更好的方向选择性，可以更好地表达图像的细节与边缘信息。针对SSIM指标对平移、尺度变化和旋转非常敏感的缺点，提出了基于对偶树复小波变换的结构相似度指标。通过几个数值实验验证了所提指标对平移、尺度和旋转变化的鲁棒性，在图像去噪的应用说明了所提指标的有效性。4、通过考虑不同的图像空间，详细分析了图像调和修补、全变差修补算法的误差。重点讨论了基于小波的图像修补问题的三个模型：图像的全变差小波修补、基于曲率驱动的小波域图像修补及小波域图像修补的空域实现算法，并对这三种算法进行仿真实验。数值仿真实验表明，TV模型选择全变差的最小化来推进图像修补的进程，也能系统性地抑制图像中的噪声；曲率驱动的小波域图像修补利用曲率正则化标准惩罚了边缘线的长度和曲率沿边缘线的积分，保证了边缘线曲率的连续性；小波域图像修补的空域实现算法是利用空域的全变差修补技术完成小波域丢失系数的图像修补。