本文介绍了压缩感知(Compressive Sensing,CS)和分数梅林变换(fractional Mellin transform,FrMT)的基本理论。结合压缩感知和非线性分数梅林变换的优点,设计了两种新的图像加密算法,解决了仅基于压缩感知的加密算法安全性低和仅基于分数梅林变换的加密算法密文数据量过大以及密文边缘锯齿化等问题。从灰度直方图、相邻像素间相关性、密钥空间、密钥敏感性、抗噪声攻击以及鲁棒性等方面对算法性能进行了分析。本文主要研究内容如下:设计了基于分数梅林变换和压缩感知的图像加密算法。该算法先对原图像实施分数梅林变换得到变换结果,对其在离散余弦变换基上进行稀疏表示得到稀疏系数,利用高斯随机矩阵对稀疏系数进行投影测量,测量值即为密文。解密过程是利用Newton smoothed0l norm(NSL0)算法进行信号重构,并对重构结果实施分数梅林逆变换,得到解密图像。设计了基于2D CS和非线性FrMT的图像加密算法。该算法构造了两个不同的部分哈达玛作为测量矩阵,分别从两个正交方向对原始图像进行投影测量得到测量值,再对测量值实施分数梅林变换得到密文。其中,部分哈达玛矩阵的生成是受Logistic混沌映射初始值控制的。解密过程是对密文实施分数梅林逆变换,并对变换结果利用NSL0算法重构得到解密图像。仿真结果表明:本文所设计的两种加密算法密钥空间大、密钥敏感性强,具有一定鲁棒性且能够抵抗统计攻击、噪声攻击等常见攻击。其中,基于2D CS和非线性FrMT的图像加密算法性能更佳。