量子信息学是量子力学与计算机科学、物理学以及数学等多学科结合而产生的新兴交叉学科,在提高计算速度、确保信息安全、增大信息容量等方面有着经典信息理论所无法比拟的巨大优势,能够为未来信息科学的发展提供新的原理和方法。量子通信,尤其是量子密码,被公认为是当前量子信息领域中最具实用价值的研究方向,其不依赖经典密码中的数学难题,而是利用量子力学基本原理保证秘密信息的无条件传输。这种得天独厚的优势引起了各国政府、军事部门和研究机构的重视。量子通信经过了近三十年的快速发展,理论逐渐完善,实验设备日趋成熟,正向实用化迈进。但到目前为止,量子通信领域仍然存在许多理论问题有待进一步解决。目前,仅有少数几个量子密钥分配协议得到了安全性证明,且证明方法不能直接用于其他协议。另外,实际系统和协议安全性证明所依赖的理论模型之间存在的偏差有可能带来安全问题。因此,针对量子通信协议和实际系统的安全性研究将是一项重要持久的工作。本论文主要研究了量子通信协议的设计与安全性分析,包括隐形传态、安全直接通信、秘密比较和秘密查询等内容,取得了若干研究成果。具体如下:在协议设计方面,提出了一种基于GHZ-like信道的任意n-qubit量子隐形传态协议,给出了清晰的协议过程和解析表达式,并利用数学归纳法给出了严格的数学证明;通过引入CNOT门和辅助粒子,简化了Liu等人提出的基于五比特Cluster态的三比特量子隐形传态协议,使其仅需要四比特Cluster态和Bell测量,并给出了协议扩展;提出了一种基于GHZ态和六粒子最大纠缠态的带认证功能的高效量子对话协议,第三方可对通信双方的身份进行认证,通信双方无需任何幺正操作,只需要单光子或Bell态测量;提出了一种基于六粒子最大纠缠态的无需任何幺正操作的量子秘密比较协议;提出了一种基于反事实效应的三方量子秘密查询协议。这些协议的安全性都经过了详细的分析。在协议安全性分析方面,针对某些量子密码协议提出了有效的攻击方法和可能的改进措施。这些攻击方法可以使用户在两方量子秘密比较协议中窃取对方的秘密消息而不被发现;使第三方在基于单光子和集体测量的量子秘密比较协议中窃取用户秘密信息而不被发现,并且使用户可利用木马攻击窃取秘密信息;使用户在基于反事实量子密钥分配方案的量子秘密查询协议中窃取数据库信息而不被发现。这些简单而有效的攻击方法将对今后的协议设计和分析工作有重要的指导意义。此外,分析了基于Bell态的QSDC协议的安全缺陷,并提出了基于Hadamard变换的安全检测方式,大大提高了此类协议对Pavi?i?攻击和Wójcik攻击的检测概率。