通信技术日益发展,目前的第五代移动通信(Fifth Generation of Mobile Communication,5G)已经开始普及。与可打电话的2G、能够上网的3G、满足移动互联网用户需求的4G相比,新一代的5G拥有三大特性:大容量、高速率、低延迟。得益于这些优势,越来越多的设备可以轻松连接到通信网络之中。但是,随着设备数量的增多,海量的设备遍布在人们生活的各个角落,如何才能确保设备之间的信息互通在安全的前提下进行是必须要解决的问题。毫米波大规模多输入多输出(Multiple Input Multiple Output,MIMO)技术能够同时服务于多用户,显著提高系统吞吐量,但在数据高速传输的同时,也会面临很多安全威胁,比如在自由空间中传输的消息具有开放性,更容易被窃听者的设备获得,以及确保用户收到正确信息的协议不足等因素,使得用户与基站间的通信过程极易受到攻击。另外,在5G网络中遍布了大量的基站,基站之间的通信安全也同样需要得到保障。现有的安全传输方案通常采用经典加密算法来保障通信安全,其安全性基于算法的计算复杂度,且无法察觉窃听。量子密钥分发(Quantum Key Distribution,QKD)基于量子力学基本原理,能够使通信双方产生并分享一个随机密钥,而且一旦第三方试图窃听则通信双方便会察觉,因此具有更高的安全性。为了充分利用量子密钥分发在安全保密方面的优势,更好地保障信息的安全传输,本论文研究了毫米波大规模MIMO系统中结合量子密钥分发技术的安全传输方案,本论文的研究内容主要包括:第一,本论文分别从基站与基站之间以及用户与基站之间两个方面考虑,针对在基站间的传输链路上无法发现窃听的问题,提出了在基站间使用量子密钥分发来代替经典加密算法的安全传输方案,通过量子态的物理特性,可以及时发现传输链路上的窃听者,从而可以在有窃听的情况下切换到其他安全链路。此外还对用户到基站间基于毫米波信道角度信息的经典安全传输方案不能避免密钥误差的问题做了改进,使得在存在部分误差的情况下也可以正确解密。第二,本论文针对用户到基站间的无线通信链路更容易被窃听的问题,考虑到量子密钥分发在保密通信上的优势,提出了在用户与基站间也使用量子密钥分发的安全传输方案,同时还用无线信道角度估计的方法产生参考序列作为量子密钥分发选择量子基的依据,既利用量子态的物理特性保证了通信的安全,又利用了毫米波大规模MIMO通信信道的角度信息以提高密钥效率。