量子通信是量子物理学与信息学交叉发展而诞生的新兴前沿学科。基于量子力学原理的量子通信协议相比于经典通信协议具有更多的优势。当前量子通信领域包括了量子密钥分发、量子隐形传态、量子秘密共享、量子数字签名、量子比特承诺、量子指纹识别、量子中继、量子数据锁、确定的安全直接通信等方向。量子纠缠和量子态叠加原理是量子通信的核心。量子世界的神奇规律激发了研究者在理论和实验中进行广泛深入的研究,不同的量子通信协议和方案不断被提出。与其它量子通信协议相比,量子密钥分发经历了 30多年的发展,目前成为量子通信技术一个非常成熟的分支,已经朝向实际的应用方面推进。例如基于光纤传输的京沪干线和沪杭干线都已建设完成,并且2016年中国首次发射基于自由空间传输的量子实验卫星“墨子号”,同时执行空地量子密钥分发任务的天宫二号相继成功发射。量子密钥分发的各种协议在理论上都趋于完善,通过信息理论和量子力学的完美结合得到安全性证明。然而,由于实际器件的不完美引入的边信道泄露严重影响通信系统的安全性。尽管提出了设备无关协议用来关闭各种器件的非理想引入的漏洞,其安全性证明基于无漏洞的Bell态验证无需对量子设备进行假设和量化,然而无漏洞的Bell态验证对实验的要求极为严苛,在现有光学技术下是非常困难的。目前测量设备无关协议是量子密钥分发领域普遍认为实用性和安全性结合地最好的协议,然而,测量设备无关协议有一个重要的安全性假设,要求实验中采用的相位编码和偏振编码完美无缺、没有错误。显然这个假设是非常不现实的,因此为了提高量子密码的安全性,从攻击者的角度研究协议和系统的安全性是势在必行的。本论文作者在博士期间主要的工作包括:测量设备无关量子密钥分发、反事实量子密钥分发、环回差分相移量子通信和量子秘密共享。基于测量设备无关纠缠目击者提出一个源错误无关量子密钥分发协议,给出了集体攻击下协议的安全性,实现了实际量子密钥分发系统的安全性不依赖于源错误;基于测量设备无关纠缠目击者方法结合探测设备无关思想提出一种探测设备无关量子秘密共享协议,不仅自动免疫所有针对探测器的攻击,而且将源不完美考虑到密钥公式中,实现了长距离的多方通信;在测量不可信的情况下,提出两种改进的环回差分相移量子密钥分发方案,分别基于集体攻击和木马攻击给出了密钥公式;基于环回差分相移的思想,我们提出一种N个用户的环回差分相移量子秘密共享协议,不同于以往的方法,证明了相位错误和比特错误无关,因此不需要监测信号扰动;针对实际反事实量子密钥分发系统提出两种经典特洛伊木马攻击方案,攻击者在不引入额外错误的情况下获取密钥信息。