信息隐藏是当前信息安全领域的一个研究热点。隐写术是信息隐藏的重要分支，主要研究如何将秘密消息嵌入多媒体数据中实现隐蔽通信。隐写术除了可提供合法的隐私保护，也可被敌特机构、恐怖组织用于计划和协调犯罪活动，成为危害国家政治、经济安全的工具。因此，对隐写术及其安全性的研究已成为维护国家安全、社会稳定的重要技术问题，也是国家和军队面临的一个新的、紧迫的研究领域。本文以隐写安全性为核心，采用信息论、数理统计、代数编码、最优化方法等理论，结合隐写术和密码学的相关理论和方法，从编码、算法和软件三个层次分别讨论了隐写术的分析和设计问题。本文的主要工作包括三个方面：1、隐写编码的分析与设计。首先，提出一种基于优化双层编码的最优进制转换算法。针对任意k进制序列到p进制序列的进制转换问题，提出一种高效的双层进制转换编码算法。定义了最优进制转换编码，采用信息论方法证明了优化双层编码的最优性。利用新算法改进了现有的多种多进制和混合进制隐写术，有效提高了隐写安全性。其次，分析矩阵编码的保密安全性。在已知载体条件下，从密钥疑义度和消息疑义度两个角度给出了矩阵编码的保密性度量。在选择密文攻击条件下，给出了只需n个差分方程组即可恢复矩阵编码的共享密钥的结论。同时考虑湿纸编码的情况，分析了湿率与嵌入率的关系，给出了密钥唯一解距的上界。指出现有的采用固定密钥矩阵的矩阵编码无法有效抵抗已知载体攻击和选择密文攻击。再次，构造一种基于随机线性码的高效隐写编码。指出在基本编码模型和有信编码模型下，接近嵌入效率上界编码的构造可归结为大嵌入率矩阵编码的构造问题。基于二元随机线性码构造了一种性能贴近嵌入效率上界的大嵌入率矩阵编码，进而结合快速Hadamard变换提高了矩阵编码的计算效率，提出比特控制法提高了矩阵编码的嵌入效率。从构造的大嵌入率矩阵编码出发，基于GZZW构造得到了适用于基本编码模型的高效隐写码族，基于折纸算法得到了适用于湿纸编码模型的高效湿纸码族。2、安全隐写算法分析与设计。首先，提出一种高效的±k自适应隐写术。分析现有加性失真自适应隐写术的不足，提出一种针对加性失真型±k隐写术的分析方法-RF分析。构造了基于模函数的纹理保序函数，解决了边信息的同步问题。结合湿纸编码和多层嵌入方法，提出了自适应±1和±2隐写算法。新算法既保证通信双方能快速同步边信息，同时具有很高的抗隐写检测性能。其次，提出一种安全的密文域隐写术。探讨了在密文域实现隐写的三种可行模式，基于修正的同态加密和双层隐写编码给出一种可在明文域嵌入消息，在密文域提取消息的隐写方案。该方案可以达到传统明文隐写术的容量，并且在密文域和明文域均能有效抵抗隐写检测分析。该方法不仅适用于云用户之间的隐蔽通信，也可用于云服务端对密文数据的管理。3、隐写软件的安全性分析与设计。从密码分析角度研究了基于格式隐写术、连续隐写术和随机隐写术的密码学安全性。结合隐写分析和密码分析技术，针对随机隐写机制建立了隐写密钥恢复模型，探讨了隐写密钥恢复问题与传统密码分析问题的关系。提出了三类针对隐写软件的系统攻击方法：基于动态标识特征检测的已知消息攻击、基于在线匹配载体搜索算法和本地碰撞载体搜索算法的已知载体攻击以及基于等价密钥分析的选择密钥攻击。在分析现有隐写软件安全性缺陷的基础上，提出了安全隐写软件的设计准则。