本文建立了一类新的酉变换—变量阶数加权酉变换类，并利用变量阶数加权酉变换类建立了图像加密算法—变量阶数加权酉变换类图像加密算法。变量阶数加权酉变换类具备很好的数学性质，保持了二范数的连续性，线性可加性，可交换性以及酉性性质，这些数学性质都很好的保证了加密系统中加密过程与解密过程的顺利进行。变量阶数加权酉变换类加密算法中所有的参数选取范围都是在实数向量空间中进行，与现有的基于加权酉变换类的加密算法相比，扩大了密钥空间，理论上提升了加密系统的安全性，从而保证了算法的实用价值。本文还重点阐述了加密算法的实验仿真研究，主要是从算法本身所具备的的优势以及抵抗外界的攻击这两方面入手，分析了算法系统的安全性。抵抗外界攻击主要表现在当传输过程中密文受到损失或噪声的影响时，解密过程仍能保证原始信息的基本恢复，这就验证了该算法的可靠性；另一方面，算法本身的数学性质从根本上保证了解密过程的多样性，使得算法具有很好的统计特性，本文结合这些性质的数值模拟实验数据，系统地阐述了该加密系统的安全特性。本文研究的加密系统还结合了单边的随机相位编码技术，与双随机相位编码相比，大大降低了计算复杂度。利用随机相位对原始图像进行加密处理后，每一次完整的加密过程中都会产生一个随机相位矩阵，即每一个密文图像都对应唯一的一个随机相位矩阵，并且由于相位矩阵的随机性，每一次的密文图像之间都是相互独立的，这样窃入者即使非法得到部分相关密键，从概率统计的角度也很难估测出剩余密键，从而也就很难恢复出原始图像，保证了算法系统的抗破译性。