随着信息技术的快速发展,信息的传递、交流变得更加频繁,信息安全问题也变得越来越重要。利用光学的方法处理二维图像有着并行处理速度快的固有优势,人们开始关注光学图像加密领域的研究。经过几十年的发展,研究者们提出了各种各样的光学加密方法,比如经典的双随机相位编码技术,基于相位截断傅里叶变换的非对称加密系统。同时联合变换相关图像加密系统由于其密文不含复值以及解密时可避免密文和密钥的像素严格对准而备受人们的关注。另外,深度学习是近年来发展十分迅速的一门学科,其中的各种算法已经在诸多领域中得到了广泛的应用。卷积神经网络在处理图像相关的问题时有着很好的效果,也被人们应用在各个领域。近年来伪造攻击的概念被引入了光学加密领域。光学伪造攻击通过迭代生成伪造密钥,攻击者将它传递给接收者,使接收方解密出伪造的明文,从而通过欺骗达到相应的目的。基于上述研究状况,本论文开展光学图像加密攻击及防御研究。本论文首先对一些经典的光学加密系统进行简单的介绍,以及对深度学习和神经网络算法做相应的阐述,接下来用神经网络对传统光学加密系统的安全性进行分析。通过给卷积神经网络大量的密文以及其所对应的明文,使卷积神经网络能够学习出加密系统的密钥。不像传统方法使用相位恢复算法大量检索或估计光学加密密钥,本论文训练出的密钥模型可直接将密文转为相应的明文。相较于已有的神经网络系统,选用sigmoid激活函数并增加dropout层使神经网络的计算更加的迅速准确,并且该神经网络训练出的等效密钥具有一定的鲁棒性。最后将介绍光学伪造攻击的概念,并且提出相应的方法去抵御光学伪造攻击。通过使用哈希函数产生哈希值来验证光学系统解密密钥的真伪,从而达到避免伪造攻击的目的。本论文提出的两种方法,具有一定的创新性,为光学图像加密及其防护提供了新方法。