量子密钥分发(QKD)协议因其可以实现无条件安全、快捷的密钥分配，近年来已引起人们的广泛关注，是目前量子信息领域中特别具有现实意义的研究方向。 目前的量子密钥分发(QKD)系统在理论和实验方面都有了很大进展，取得了丰硕的成果，但QKD系统通信距离和安全码生成速率并不高，还不能与现有的电信网络集成，远远不能满足实际应用的需要，尤其是商业化的需求。这是因为由于BB84协议以及以后的许多协议都依赖于测量基的匹配来获得密码比特，协议效率不高。2002年提出的差分相位编码QKD方案(DPS-QKD)，不存在基匹配问题，协议效率高，可以提高码生成效率，在满足实用性需求方面显示出很大的优势，成为近年来研究的热点之一。 本论文主要对差分相位编码QKD系统及其安全性做了较为全面系统的研究，并对系统做了改进以提高系统的稳定性。主要内容有： 1．采用理论与实验相结合的方法，系统地研究差分相位编码QKD系统(Differential Phase Shift QKD，DPS-QKD)安全性。着重分析了各种典型攻击方式下，DPS-QKD方案的安全性问题。对差分相位编码QKD系统与标准BB84 QKD系统的性能进行了比较。 2．首次将法拉第镜的光学特性运用在差分相位编码QKD实验系统上，设计并搭建采用弱激光脉冲光源和门控技术的DPS-QKD实验系统，提高了QKD系统的稳定性，具有重要的实用价值。并对系统的稳定性和安全性进行了分析。 3．在充分研究差分相位编码QKD系统结构和性能的基础上，从实验方案和实验技术两方面探讨了改进差分相位编码QKD系统性能的方法。