图像信息是人类认识世界的重要信息来源,然而由于在图像成像条件和图像传输过程中存在各种不利因素致使图像质量下降,从而影响图像的使用及其后续处理.如何从退化图像复原出清晰的、内容丰富的图像是人们所普遍关注的问题,这正是图像复原要解决的问题.图像复原是图像处理领域中重要的研究内容之一.通常情况下,由于图像复原问题是一个不适定的反问题,这就需要利用先验信息将不适定问题正则化处理转化为适定模型.同时,自然图像统计学显示图像边缘分布既不全是Gaussian分布也不全是Laplacian分布,而是类似于Hyper-Laplacian分布,即先验信息是非凸的.本论文正是基于各种非凸势函数,包括Lipschitz非凸函数与non-Lipschitz非凸函数,建立相应的非凸非光滑优化模型,采用交替最小化算法求解,分析其收敛性.本论文的主要工作与取得的创新性成果主要有:针对Lipschitz非凸正则函数与加性噪声,建立L2+Lipschitz正则函数的非凸能量函数.先采用非凸累进算法处理,相应的非凸累进能量函数随着变系数增大而由凸能量函数趋近于原目标非凸能量函数.对每一个固定的系数,代理能量函数分别采用四种交替最小化算法求解,在求解过程中,为了保证海森阵正定性,仅考虑能量函数海森阵中的正定部分.同时,将四种交替最小化算法归结为一种模式处理,且选择其中一个算法,利用Kurdyka-Lojasiewicz不等式分析该算法的收敛性,且成功分析了代理能量函数随着变系数改变而趋于原目标非凸能量函数时的收敛性;针对non-Lipschitz拟范数?p(0<p<1)正则函数与乘性噪声,建立L1+TVp的非凸能量函数,采用变量分离与邻近点交替最小化算法处理.而对含TVp项的子问题(去噪模型),先采用Huber函数处理?p范数,再对相应的欧拉方程采用原始对偶牛顿法求解对偶向量,进而得到广义正定海森阵,接下来用信赖域法求该子问题的最优解,且分析了处理该子问题的算法具有超线性收敛性.之后,利用KurdykaLojasiewicz不等式对整个算法,进行了收敛性分析;给出了三种近年来出现的非凸函数模型应用于图像复原,如箱式约束非凸最小化模型,p-压缩算子(0<p<1)与修正的非凸最小化模型,且针对不同噪声分别给出了相应的算法与相关收敛性分析.在数值试验中,分别验证了各种算法的有效性.特别的,在第三章中由数值试验分析了变系数取值区间,在第四章中分析了拟范数?p作为正则函数处理乘性噪声时,发现当p=12时,图像复原效果最优,以及其他一些非凸模型的特殊效果,如箱式约束非凸模型在特定的图像区域能改善复原效果,修正非凸模型能加速处理速度.