信息技术的飞速发展使得传统的信息处理方式和表现手段已经难以适应社会的需要。传统视频业务已无法满足人们的要求,可伸缩视频、高清数字电视、立体／多视点视频等新兴的视频应用需求层出不穷。而这些新兴的视频应用对视频编码性能和抗传输鲁棒性提出了更高的要求。在传统的视频编码技术提高性能有限的情况下,人们将研究关注点集中在了视觉感知方面。根据人类视觉系统(Human Visual System, HVS)的研究发现,HVS对视频场景的感知足有选择性的,不同的区域或者对象具有不同的视觉重要性,而且对不同视觉信号中的各种失真也具有不同的敏感和容忍程度。利用HVS对视频场景感知的差异,优化编码资源分配,可以更好的服务于视频图像的最终消费者—人眼。因此,基于视觉感知特性的视频编码技术是提高视频编码性能和传输鲁棒性的新途径。本文分别研究了视觉感知特性在立体/多视点视频、分布式视频和容错视频编码框架下的应用,有效提高了视频编码的率失真性能,主要内容包括以下三个方面：首先,研究了基于自适应残差预处理的感知立体/多视点视频编码。根据裸眼光栅立体显示的视觉特性,结合基本的亮度、纹理、时域和中央凹感知特性,建立了适用于裸眼光棚立体显示的JND感知模型,实现了裸眼光栅立体显示器环境下,立体视觉感知冗余的检测；同时,基于JND感知模型提出了一种基于率失真优化的残差预处理算法,通过去除立体视觉冗余信息,实现了立体/多视点视频编码性能的优化。实验结果表明,基于自适应残差预处理的感知立体/多视点视频编码,在相同主观条件下有效降低了编码码率,且该算法在高码率条件下效果更佳。其次,研究了基于自适应量化的感知分布式视频编码。针对分布式盲编码的特点,结合相关噪声模型与频域视频感知特性,提出了主观失真概率估计模型,用于在编码端对边信息主观失真的估计：同时,根据关键编码帧重建图像的主观质量,采用率失真优化方法自适应为每个分布式编码帧选择优化的量化矩阵,在保证解码图像质量平稳的同时,实现了分布式编码性能的优化。实验结果表明,基于自适应量化的感知分布式视频编码,在相同主观条件下有效降低了编码码率最后,研究了基于自适应帧内更新的感知容错视频编码。通过深入分析有损传输环境下编码主观失真和传输主观失真的特性,提出了端到端主观失真度估计模型,用于在编码端估计有损传输环境下解码图像的主观失真；同时,基于端到端失真度似计模型实现了一种基于率失真优化的自适应帧内更新算法,重点研究了与图像内容相关的自适应拉格朗日参数选择方法。实验结果表明基于自适应帧内更新的感知容错视频编码,在相同传输条件下,有效改善了解码图像的主观质量。