利用光的偏振态承载信息实现偏振编码,是解决功率波动问题的有效解决方案,可以大幅降低光纤通信系统中的非线性效应,提高谱效率,是目前实现高速光纤通信的研究热点。具有可靠稳定性的偏振编码器是实现偏振编码通信的关键,因此,本文首先设计了一种基于铌酸锂(LN)相位调制的偏振编码器,采用时变矢量对偏振编码器的稳定性进行了深入研究。实验表明,LN的偏振相关损耗主态与偏振相关相移主态基本一致,说明LN的偏振相关损耗不会影响偏振态的稳定性。实验中观察到偏振态旋转具有“惯性”：当电压从OV增加到某个定值后,偏振态会继续变化一段时间(反之亦然),大约在30mins左右才达到稳定。该现象对于低速调制将带来不利影响；对于高速调制,平均功率的变化也将引起偏振抖动。为了解决这一问题,本文建议将50欧姆的匹配电阻置于LN之外,加强散热,以减小热惯性的影响。其次本文对现有偏振编码方案的可行性及缺陷进行分析,并通过制作大动态范围相位调制器,采用相位补偿技术改进现有偏振编码方案,进行提高偏振编码稳定性的研究。实验表明该改进方案能有效避免插入损耗及干涉臂长度差对偏振稳定性的影响,但仍需继续改进以实现避免环境因素对信号的影响。最后,本文针对环路系统中的关键器件进行研究,通过分析相关器件的性能与参数确定了环路系统的可行性,为合理选用器件及后续实验提供理论基础。用强度编码信号和偏振编码信号进行传输实验,基本验证了环路传输系统的可行性,同时也发现了偏振编码信号在传输实验中出现的问题,为下面的工作指明方向。