高效视频编码(High Efficiency Video Coding,HEVC)是由ISO/IEC MPEG(Moving Picture Experts Group)和视频编码专家组(Video Coding Expert Group,VCEG)联合推行的新一代视频编码标准。HEVC标准的主要目标是提高已有编码标准的压缩效率,相比较H.264/AVC,在视频感知质量相同的前提下,节省了约一半的编码比特。随着网络多媒体内容的增加和HEVC新技术发展带来的挑战,网络视频服务需要更加注重保障有损传输下的图像质量。在这样的背景下,本文对H.264/AVC和HEVC中的容错编码方法和差错掩盖方法进行了广泛的研究。分别从解码端和编码端入手,实现了当前HEVC中的差错掩盖方法和基于棋盘格的参考帧选择(Reference Picture Selection,RPS)容错编码方法,验证了当前方法的性能,然后提出了对现有方法的进一步改进。本文的主要研究内容如下:1)针对已有的差错掩盖方法,提出了一种基于视频纹理特性和HEVC编码特征的差错掩盖方法。该方法利用视频内容的纹理特征、HEVC的CU划分特征和时域编码特征,对丢失的Slice进行分析,进而调整其差错掩盖策略,对丢失内容进行恢复。实验结果表明,相比较目前HEVC的差错掩盖方法,本文方法恢复所得的视频质量更高,PSNR大约提升了0.5~2dB。2)针对有损传输下HEVC视频数据的传输保护问题,以及现有HEVC容错编码方法的性能不足,提出了一种基于视觉显著性的参考帧选择容错编码方案,自适应地进行基于参考帧选择的容错编码。首先对目前的显著性检测方法进行了研究,针对编码端的性能需求,提出了一种实时显著性检测模型。接着通过分析视频内容与容错编码方法的关联,提出一种基于视觉显著性的CTU级的参考帧选择方法,进行更合理的参考帧选择调整,使得优化后的容错编码方法既能降低编码端的性能损失,又能提高有差错情况下的解码端视频质量。