图像复原问题是一类重要的反问题,其目标就是从观测到的退化图像中反向求解出真实图像。由于反问题在求解过程中通常存在不适定性,所以直接求解算法一般很难找到反问题的稳定解。基于正则项的优化建模是求解不适定反问题的一种有效且稳定的方法。在图像复原中,正则项一般来自图像的先验性质,并已经得到了广泛的研究,例如稀疏噪声的稀疏先验等。本论文的主要工作是通过分析挖掘图像复原问题中的先验性质,构建合理的凸或非凸优化模型（重点在于研究非凸优化模型）,并设计相应模型的高效求解算法。主要研究内容和创新点具体如下:一、针对信号模糊和噪声的去除问题,通过分析退化矩阵的奇异值性质,提出一种基于改进Tikhonov正则项的凸优化模型。这种改进的模型可以更有效地抑制噪声并更准确地恢复出真实信号。此外,该工作还设计了一个基于Lanczos双对角化的预处理矩阵,其可以加速共轭梯度最小二乘算法的收敛速度。二、针对遥感图像混合噪声（如高斯和稀疏混合噪声）去除问题,分析了遥感图像空间维度和光谱维度的先验性质,例如遥感图像在相邻波段之间相似性,由此建立在梯度域上的稀疏张量优化模型。此外,对于所提出的稀疏张量模型,在交替方向多乘子方法框架下设计求解该模型的高效稳定算法。凸优化和非凸优化的建模和算法研究具有重要联系。虽然凸优化模型的算法在理论上具有成熟的收敛性结论,但凸模型在图像复原问题中对潜在性质的刻画一般不如非凸模型准确。相较于凸优化算法,非凸优化算法的收敛性质还不成熟,具有较大的挑战性和广阔的研究前景,这也是本论文研究的重点和难点。本论文主要在经典算法框架下,针对不同图像复原问题,提出相应的非凸优化模型和高效算法,并在理论上分析了算法的收敛性质。三、针对遥感图像条带噪声去除问题,考虑条带噪声特有的方向性特征,提出基于单一方向全变分的?₀伪范数非凸稀疏优化模型。利用数学规划平衡约束,将所提的非凸稀疏优化模型等价地转化为一个可以有效求解的非凸优化模型。基于邻近点交替方向多乘子的思想,设计求解此等价的非凸优化模型的高效算法。特别地,所提算法产生的序列的聚点在理论上被证明可以满足等价的非凸优化模型的Karush-Kuhn-Tucker条件。四、针对图像半盲复原问题中已有的耦合变量联合非凸优化模型,基于邻近点交替极小化的框架,设计求解此模型的高效算法。所设计的算法对于图像半盲复原问题的求解工作具有补充意义,并且在理论上证明了算法产生的序列均可以收敛到此模型的临界点。相较于已有算法仅能保证子序列收敛的性质,所提算法具有更好的收敛性结论。五、再生核希尔伯特空间（reproducing kernel Hilbert space,RKHS）具有强大的函数表达能力,而图像可以看作是函数的离散形式,进而可被RKHS的再生核线性表示。此工作基于RKHS建立了图像模糊和噪声去除的?₀伪范数非凸优化模型,并利用数学规划平衡约束将其等价地转换为可高效求解的非凸优化模型。在邻近点交替线性极小化的框架下,设计了求解等价的非凸模型的高效算法。所提算法理论上被证明产生的序列均可以收敛到所求解非凸优化模型的临界点。