计算机全息图(computer generated hologram,CGH)因其制作简易、便于存储、传输和能够计算、显示虚拟物体等特点,已经逐步取代了传统光学干涉法生成的全息图,成为了实现动态全息三维显示的一个重要的方法。但是,当前利用计算机全息图实现三维重建还存在各种问题,制约着全息显示的进一步发展和应用。为了进一步提高计算机全息图重建的质量,本文主要围绕着全息显示中的复振幅调制算法展开了研究,通过研究新的复振幅调制算法,基于单个纯相位空间光调制器,对光场相位和振幅进行同时调制,从而解决当前全息图在计算和编码中存在的计算量大、计算速度慢、由于散斑噪声导致的图像质量差等问题,进一步提高计算机全息图在全息显示中的实用性。本文首先概述了全息及计算全息的发展历史,介绍了全息三维显示国内外的研究现状和当前全息显示面临的一些技术难题。介绍了全息理论,包括经典的标量衍射理论,三维物体的全息图计算方法和经典的纯相位全息图编码算法GS迭代算法,引出了复振幅编码算法问题。本文重点围绕复振幅调制方法开展了研究。综述了各种复振幅调制方法,包括基于器件的方法和基于纯相位全息图的复振幅编码算法。在此基础上,本文提出了基于双相位编码和基于空间耦合法的两种复振幅调制方法。(1)在基于双相位编码的复振幅调制方法中,我们利用任意复振幅可以分解为两个纯相位的原理,使用棋盘格对分解后的相位进行编码,利用闪耀光栅避免空间光调制器的零级对图像产生干扰,实现在4f系统输出面重建复振幅光场。我们分别对单一平面和多平面的全息图重建进行了仿真和光学实验验证,并且与传统的GS迭代算法进行了量化比较,验证了该方法对于抑制散斑和提高图像重建质量的有效性。(2)在基于空间耦合法的复振幅调制方法中,用一个相位型空间光调制器和一个随机相位板实现了精确的复振幅调制,不同于光栅法和双相位编码的复振幅调制方法,该复振幅编码利用了白噪声的卷积平滑效应,将复振幅的振幅信息编码到相位信息中,并利用迭代大大提高了复振幅调制的准确性。通过这种方法,实现了高衍射效率,无像素损失,高精度,任意距离的复振幅调制。本文通过仿真和实验证明了基于相位型空间光调制器的复振幅调制方法的有效性和可行性。最后我们结合当前的热点研究领域——增强现实三维显示,提出了一种基于复振幅调制的近眼全息三维视网膜显示技术。该技术采用了本文提出的基于双相位编码的复振幅调制方法,抑制了重建图像的散斑噪声,同时采用LED点光源进一步提高了图像质量,扩大了观察视角。本文给出了多平面全息重建的光学实验结果,验证了该方法的有效性,为复振幅调制算法应用进行了验证。