伴随着传感器技术、通信技术、计算机技术的蓬勃发展,人类每时每刻都能获得海量数据。然而,这些数据往往是大规模、高维且含有噪声,因而带来了诸如数据存储、传输和分析等困难。因此,如何对高维数据进行必要的降维、去噪处理成为信息科学、医学、生命科学等领域十分热门的课题。其中,压缩感知的重要延伸技术一矩阵秩极小化技术在高维数据分析、图像处理及计算机视觉等众多领域的成功使其备受关注。本文主要研究矩阵秩极小化模型的非凸近似及其在计算机视觉、高光谱图像去噪领域中的应用,论文的主要工作如下:首先,针对标准核范数极小化问题只能得到原问题的次最优解的问题,提出了基于对数行列式函数的矩阵秩函数的非凸近似正则项,并利用增广拉格朗日乘子法求解相应的非凸优化模型。证明了当罚参数β>1时,算法产生的序列收敛到原问题的稳定点。最后将新算法应用到多任务学习和子空间聚类中,通过实验验证了算法的有效性。其次,针对原始数据矩阵中混有各类噪声的一般性矩阵秩极小化模型,包括鲁棒主成分分析和低秩表示问题,提出了基于拉普拉斯函数的矩阵秩非凸近似模型。采用线性化技术,并利用增广拉格朗日乘子法对新模型进行求解。最后通过大量的数值实验验证了,基于拉普拉斯函数的矩阵秩非凸近似正则项优于传统的核范数,且新的迭代算法优于现有的许多凸的和非凸算法。再次,针对高光谱图像的去噪问题,利用非凸低秩矩阵分解,将原始含有混合噪声的矩阵,线性化分解成一个低秩矩阵,一个稀疏矩阵和一个无结构化矩阵,分别代表干净图像,稀疏噪声(例如脉冲噪声,条纹,死线等)和随机高斯噪声。然后,以矩阵秩函数和稀疏矩阵的l2,1范数的线性和为目标函数,以矩阵的线性化分解为约束条件,建立优化模型,并利用增广拉格朗日乘子法求解该模型,得到一个新的迭代算法。通过数值实验验证了新算法的有效性。最后,对文章的主要内容进行总结,并针对本论文中算法存在的问题提出了进一步研究的方向。