近年来，分数傅立叶变换作为新兴的数学变换备受人们重视，它在光学领域，信息处理等方面的优点逐渐被发现并得到广泛应用。尤其在图像加密方面的应用是其中比较热门的领域。　　分数阶傅立叶变换是常规傅立叶变换的广义形式，而复数阶分数傅立叶变换把阶数进一步扩大到了复数的范围内。本文简单阐述了从傅立叶变换到分数傅立叶变换再到复数阶分数傅立叶变换的发展过程，及其在光学加密中的应用；分析了分数傅立叶变换的几种定义形式、基本性质；简要介绍了利用渐变折射率介质和光学透镜系统实现分数傅立叶变换的理论基础和光学结构；利用分数傅立叶变换的积分定义和Matlab中的快速傅立叶变换实现了对分数傅立叶变换的模拟。　　本文还澄清了对复数阶的几种不同定义，确定了Shih提出的正确理论。研究了用高斯光阑加透镜组实现复数阶分数傅立叶变换的光学结构，并应用Shih对分数傅立叶变换的态函数叠加定义，对复数阶分数傅立叶变换进行了数值模拟和分析。　　为了应用复数阶分数傅立叶变换对图像进行加密，本文在双相位编码技术的基础上，结合随机分数傅立叶变换理论，提出了复数阶随机分数傅立叶变换。并根据复数阶的光学实现系统得到了其随机变换的光学结构图。最终实现了对光学图像的加密和恢复。并对加密过程中的密钥进行了分析，通过解密图像和原图的均方差曲线比较了把复数阶作为密码和把随机相位作为密码的各自特点。