随着人类进入信息时代,信息传递、存储和交换的需求日益递增,同时这也使得信息的安全和保密问题日益严峻。科学家们试图从不同的学科和角度研究信息安全的机制和实现手段,由此出现了RSA、El Gamal、椭圆曲线、DES和AES等基于计算复杂性的公钥密码体制的现代密码通信。而这些基于计算复杂性的密码体制都面临着量子计算机的致命威胁。2019年10月,谷歌公司在Nature发表的研究表明,其开发的53比特量子计算机已实现“量子霸权”,如果量子比特数量进一步提升,基于计算复杂性的传统密码体系在量子计算机面前将不堪一击,这就促使了人们寻找安全性不依赖于计算能力限制的密码系统。量子密码（quantum cryptography）正是在这种迫切需求下应运而生的,它利用了量子物理基本原理来保证信息传递的安全性,从理论上讲具有无条件安全性。1984年,第一个量子密钥分发（quantum key distribution,QKD）协议——BB84（Bennett and Brassard in1984）协议被提出,许多相关研究接踵而至,使得量子密码领域有了突飞猛进的发展。目前,QKD协议的安全性已被许多实验所验证,甚至一些科技企业也开发了适用于军事或商业的QKD解决方案,这都为未来QKD的大规模应用打下了坚实的基础。然而现有的QKD协议的商业化和大规模应用仍然面临着许多挑战。首先,根据Pirandola-Laurenza-Ottaviani-Banchi（PLOB）基本码率限制,QKD的安全码率随着传输距离的增长呈指数衰减,这使得QKD协议在长距离通信中很难实现高速通信;此外,现有的QKD协议大多采用光子的偏振或相位作为量子比特的载体,这种自由度在传输过程中极易受到相位失配的影响,降低协议的实用性。本文主要关注采用光子的轨道角动量自由度来改进现有的QKD协议,以解决现有基于光脉冲相位或偏振的QKD协议的缺点,并提升其安全性和安全密钥率。本文完成的工作主要包括如下几个方面:（1）较全面地介绍了QKD系统的原理,详细介绍了基本的量子密钥分发协议、后处理方法以及QKD系统的组成部分等,并重点介绍了QKD协议的安全性分析理论、安全密钥率分析方法、诱骗态协议等重要知识。同时,本文还对光子轨道角动量（OAM）自由度的基础知识进行了说明,并介绍了其在QKD协议中的应用和最新进展。本文还介绍了2018年提出的可以克服PLOB基本码率限制的TwinField QKD（TF-QKD）协议以及相关工作。（2）基于上述背景,本文提出了一种使用光子轨道角动量对TF-QKD进行改进的协议,即OAM-TF-QKD协议。新提出的协议采用OAM对经典比特进行编码,并利用OAM的旋转不变性克服传统光脉冲相位编码方式需要校准的缺点,从而提升了TF-QKD的实用性。同时,由于OAM具有高维特性,可以扩展编码空间,本文提出的协议利用OAM的这一优点提出了高维的OAM-TF-QKD,并给出了新颖的协议理论方案,并分析了该协议的安全码率,分析结果显示本方案提升了可产生安全密钥的量子比特错误率的阈值范围,从而提升了协议的安全性。通过文中的数值模拟可以看出,高维的OAM-TF-QKD协议与二维的TF-QKD相比可以减少通信双方与窃听者之间的互信息,从而提升安全码率。（3）另外,本文在[2014 New J.Phys.16 063052]的基础上提出了一种基于光子总角动量的高维QKD协议,简化了原有协议的设备方案。并利用喷泉码的思想提出了一种实用的隐私放大方案,采用该方案,通信双方可以根据窃听检测结果和信道情况动态调整参数,达到编码效率和安全性的平衡;同时本文还给出了该方案的数值仿真结果以佐证上述结果。