图像是信息表达的重要载体,保障图像在网络信道中的安全传输是当前面临的一个巨大挑战。混沌系统具有对初始值高度敏感的特性,与密码学中利用置乱和扩散操作改变信息的统计关系这一点不谋而合,混沌学逐渐成为研究图像加密的重要方式。一些传统的混沌系统存在参数空间小和混沌性能差的缺陷,使混沌图像加密算法的安全性受到威胁。本文对传统的低维混沌系统进行深入研究并对其进一步改进,然后将其应用到图像加密算法中,针对混沌系统的建立及加密算法的设计完成了以下研究工作。（1）将传统的一维混沌映射嵌入到正弦函数中,设计了一维模正弦运算的混沌系统模型（Chaotic Model using Modular Sine Arithmetical,MSACM）。通过分岔图、Lyapunov指数、信息熵测试和样本熵测试,验证了该模型产生的三个混沌映射具有更好的混沌特性,且具有更广泛的参数范围使得系统处于混沌状态。根据该模型产生的其中一个混沌映射,提出了基于改进的ZigZag置乱和核糖核酸（Ribonucleic Acid,RAN）运算的图像加密算法。该算法对传统的ZigZag遍历方式进行改进从而避免传统ZigZag周期性的问题,且通过RNA编码和RNA密码子对图像中的像素值进行修改。实验仿真结果和大量的安全性分析结果表明该算法是安全高效的。（2）提出了一维Logistic自嵌入（One-dimensional Logistic Self-embedding,1DLSE）映射,并基于此提出了比特级动态随机分块策略的图像加密算法。利用混沌序列确定子块的位置和大小,并对子块进行比特级ZigZag置乱。之后对图像进行像素级排序置乱处理。置乱后的图像进行扩散处理时采用的是与密钥矩阵进行相邻异或的方法。计算机仿真结果和安全性分析结果表明该算法的加密效果较好,能够抵抗常见的各种攻击。（3）提出了基于分块理论和可逆混合元胞自动机的图像加密算法。该算法中运用了两种置乱方法,排序置乱的方法用来处理每个大小相等的子块,类椭圆形式的遍历方法用来置乱具体的每个子块图像,从而进一步增强图像的置乱效果。在扩散过程中使用的是可逆混合元胞自动机模型,不同的演化规则得到完全不同的演化结果,演化规则是由混沌序列动态决定的,增加了破解算法的难度。上述三种算法弥补了现有混沌图像加密算法中普遍存在的加密效率低、算法安全性差以及密码系统抗攻击能力弱的缺陷。本文针对一维混沌系统的缺陷进行改进,并且对加密算法重新构建,保证了图像在网络中的安全传输,为混沌密码设计提供了新思想。