随着人们对通信需求的日益提高,量子保密通信作为新兴的通信学科受到科技工作者们的广泛重视。量子通信以量子物理学与密码学为基础,结合了量子测不准原理和不可克隆定理等基本特性,因其容量大、安全性高、对窃听行为可检测等优点为信息的安全传输提供了新的思路和方案。量子密钥分发作为量子通信中首个从实验室走向实际生活的技术,具有较大的应用价值,并在军事、电子商务等领域拥有广阔的发展前景。而量子密钥分发系统的稳定性也容易受到环境及其他干扰源的影响,如何维护系统的稳定性,有效监测窃听者并确保信息传输的顺利完成一直是量子密钥分发系统面临的重要问题之一。本文针对偏振编码和相位编码两种常见的量子密钥分发系统,对影响系统稳定性的因素以及相对应的解决方案进行了比较深入的研究,所做的主要工作如下：1、针对量子密钥分发的理论基础,简要介绍两种常见的调制编码量子密钥分发系统,对比两种结构系统的优缺点,并研究了影响偏振编码和相位编码量子密钥分发系统稳定的光纤双折射效应、偏振模色散、相位漂移等内容。2、对解决量子密钥分发系统稳定性的方案进行了研究。针对偏振编码量子密钥分发系统,提出通过增加偏振反馈控制结构补偿系统的双折射效应及偏振波动的方案；针对相位编码量子密钥分发系统的相位漂移问题,提出基于法拉第镜补偿的即插即用结构、严格的热和机械隔离方案、单光子扫描主动补偿法、“五点法”相位漂移主动补偿法等解决方案。对各种方案的特点以及存在的问题做出了分析和比较。3、相位漂移是导致相位编码量子密钥分发系统产生误码的主要来源。针对传统补偿方案计算量较大、测量精度偏低、系统复杂等不足,本文提出了一种基于最小二乘法的主动相位补偿方案,可在单光子情况下通过扫描少量相位点,应用最小二乘法,即可获得一定精度的相位漂移补偿参数。通过实验仿真表明,该算法可以在较短的时间内得到相位漂移参数进行实时主动补偿。该方案在一定程度上提高了量子密钥分发系统的运行效率和性能。