互联网技术的飞速发展使得人们能够在互联网提供的开放式交流平台上随时随地、不受限制地进行信息的传输，人们之间的联系越来越紧密，世界越变越小，社会进入到了信息化时代。社会的信息化为人们带来了许多的便利，但同时也存在着很多的安全隐患。目前，信息安全问题已经成为一个极具挑战性的课题，而图像信息的安全问题是信息安全问题的重要组成部分。各种分数阶变换不断被提出、改进并应用到光学信息处理和数字信号处理等领域。本论文主要介绍了分数傅立叶变换和分数哈特莱变换。近年来，一种重新定义的分数哈特莱变换被提了出来，该分数阶变换是分数傅立叶变换的线性和，满足周期性、阶次可加性、可逆性、能量集中性等分数傅立叶变换所具备的性质。从广义上讲，重定义的分数哈特莱变换是分数傅立叶变换的一种推广，对重定义分数哈特莱变换的研究有利于促进分数傅立叶变换和图像加密技术的发展。本文主要以重定义的分数哈特莱变换为基础，将近年来被重新定义的分数哈特莱变换和一些其他的技术相结合，设计了两种图像加密方案。具体的研究工作如下：设计了一种在单通道上，结合复用技术、逻辑映射和分数哈特莱变换的彩色图像加密算法。利用简单的数学运算将彩色图像的红、绿、蓝三个通道复用到了单个通道后，再对该单通道信息进行了基于重定义分数哈特莱变换的双随机相位编码，以得到最后的加密密文。该单通道彩色图像加密系统与传统的三通道彩色图像加密系统相比较，具有一定的迷惑作用。因为该单通道彩色图像加密算法的输出结果是一幅灰度图像和与其相对应的两个唯相位密钥而不是一幅彩色图像。数值仿真和理论分析结果表明，该加密算法的密钥极其灵敏、密钥空间比较大、安全性很好。设计了一种基于分数哈特莱变换和向量操作的单通道彩色图像加密算法。原彩色图像的G、B部分经向量操作分别被转化为唯相位信息G和B后，其R部分和新生成的两个唯相位G和B，通过两次分数哈特莱变换和向量操作变换，得到一个幅度分布、一个相位分布和一个解密相位密钥。新得到的幅度分布和一个随机相位再次经过分数哈特莱变换后，为了进一步提高该加密算法的安全性，变换结果又经过混沌置乱，最终得到加密结果。从加密过程可以看出，私有相位密钥是与原图像有关联的，这就使得该加密算法比现有的基于分数哈特莱变换的双随机相位编码线性彩色图像加密算法更安全。仿真结果表明该加密算法是安全有效的。