数字图像处理在航空航天、机器人视觉、生物医学等众多领域有着广泛的应用。由于成像设备的限制和图像传输过程中不利因素的影响,观测到的图片质量往往会出现不同程度的下降,如图像模糊化、图像噪声化、图像部分信息丢失等情况。如何提高图像的清晰度、分辨率以及修复破损的图像,是广大科研工作者极为关注的问题之一。图像复原从数学角度来看属于不适定性问题,通过引入某些先验约束条件,可以将复原问题转化为优化问题来进行求解。本文以图像复原及高光谱解混算法为主线,围绕图像去模糊、图像去噪、图像修复及高光谱图像解混问题,建立相应的优化模型,并设计了对应问题的高效求解算法。本文的研究内容主要分为以下五个部分:1.针对受到模糊和高斯噪声污染的降质图像,提出了一种改进的7)1范数最小化模型。设计了一种有效的交替迭代算法,该算法利用快速迭代阈值收缩方法(FISTA)和对偶方法交替求解所提出的模型,并证明了所提算法的收敛性。数值实验验证了该算法的有效性。2.实际情况中获取的图像往往会受到多种噪声的污染,针对受到混合高斯噪声和脉冲噪声污染的图像,提出了一种混合正则化方法(混合全变差正则和高阶全变差正则)。该方法结合了全变差和高阶全变差正则各自的优势,从而能有效的克服由全变差正则化方法产生的阶梯效应(stair-case effects),并能很好的保持图像的边缘。在交替迭代方向乘子方法框架下,设计了有效的优化算法。数值实验验证了所提算法的优越性。3.在超声波成像系统中,成像图像往往受到斑点噪声(speckle noise)的污染。针对超声图像中存在的噪声,基于混合全变差和高阶全变差正则建立了去噪模型,并设计了快速求解算法。数值实验表明所提方法能有效去除噪声,同时能很好的平衡复原图像的细节和平滑区域。4.自然图像往往包含平滑区域和边缘两部分,基于这种假设,我们提出了一种新的图像修复方法。该方法利用再生核希尔伯特空间(reproducing kernel Hilbert space)刻画图像的平滑区域,同时利用Heaviside函数的近似形式去刻画图像的边缘部分。数值实验表明所提方法优于或者具有至少与当今一些优秀的算法可比的优势。5.针对高光谱图像中混合像元的解混问题,提出了一种半监督的基于图正则和稀疏优化的解混方法,该方法有效的利用了高光谱图像的结构信息。在对称的交替迭代乘子方法框架下,设计了快速求解算法,并证明了所提模型的凸性,从而保证了解混结果的唯一性。数值实验验证了该方法能够得到满意的解混结果。