本文致力于针对于H.264/MPEG AVC视频加密算法和四进制差分偏振移位键控通信方式的研究。 第一章阐述了本研究的目的、意义以及研究现状。 第二章阐述了H.264/AVC视频编码标准的具体内容。 第三章阐述了加密算法的分类和解释了要在第四章用到的公钥密码和私钥密码。 第四章提出了两种适用于H.264/AVC视频的加密方案。在方案一中提出了3种加密算法，分别是帧内预测模式洗牌算法，MVD洗牌算法和子宏块类型洗牌算法。根据密码表在一个片(slice)范围内将帧内预测模式，MVD和子宏块类型根据密码表进行洗牌。方案二中提出了两种加密算法，分别是T1符号置乱算法和MVD符号置乱算法。方案二并且提出了3种加密的级别。使用由欧洲ECRYPT流密码项目的流密码算法Decim v2产生的密钥比特流来置乱T1和MVD的符号。 第五章提出了一种四进制差分偏振移位键控通信方式，可以抵抗光在单模光纤中传播时偏振状态的随机波动对接收效果的影响。通过差分编码，在发射机中，光在前后两个码元周期内的偏振状态之间的差别与差分编码器的输入建立一一对应的关系．在接收端提取前后两个码元周期内光的斯托克斯矢量并将二者点乘，就能提取前后两个码元周期内光的偏振状态之间的差别，恢复发送序列。即使在不使用动态偏振控制器的情况下，点乘运算也可以有效地消除了光偏振状态的随机波动对系统性能的影响。 最后一章，对整个研究过程给与一个回顾，对H.264/AVC视频加密技术和差分偏振移位键控通信的发展前景给出作者本人的意见和想法。