毫米波通信以其丰富的频谱,成了缓解频率资源高度拥塞的关键技术,从而满足高数据速率通信的需求,在未来无线通信系统中发挥重要作用。因此毫米波通信技术受到很多研究者的关注。但是,由于无线系统的开放性,无线系统的安全性面临严峻挑战。传统方法通过利用网络层及以上的密钥加密技术实现保密通信,但是随着计算能力的提高,其基于密钥加密技术的传统技术时刻面临着被破解的风险。物理层安全技术不依赖密钥,并且使得安全关口前移,因此成为解决未来无线安全通信问题的重要潜在方案。传统的物理层安全技术利用人工噪声,方向调制,波束成形等技术恶化窃听者信道,将保密信息安全地传输到合法接收机。不同于之前的毫米波物理层安全技术研究,本文主要基于毫米波的独特的传播特性和大宽带特点,研究毫米波通信系统中的物理层安全通信技术。从毫米波传播特性出发,本文基于离散角度域信道模型提出三种安全传输方案以对抗非合作式和合作式窃听。从毫米波通信的大带宽出发,本文针对大规模天线阵列高带宽引起的空间宽带效应（Spatial Wideband Effect,SWE）,提出了适应于高带宽毫米波大规模多输出多输入（Multiple Input Multiple Output,MIMO）通信系统的安全传输方案。首先,通过将空间中随机分布的窃听者建模为泊松点过程,本文利用毫米波传输的稀疏性,将毫米波信道建模为离散角度域信道模型,该模型将发射机信道分为多个独立正交的空域子信道。本文假设窃听者能够从历史窃听结果中获取反馈,并据此改进窃听策略。为了应对这样的窃听者,本文提先出了一种基于动态路径选择的安全传输策略以应对非合作式窃听者;为了应对合作式窃听者,本文又提出了一种基于奇偶校验码的安全传输方案,确保窃听者在只窃听到了部分路径时,不能获得任何保密信息。对安全速率和窃听者误比特率的仿真分析表明,本文提出的安全传输策略能够有效地恶化窃听者的接收性能,达到安全通信的目的。大规模天线阵列毫米波通信系统中,不同天线的信号时延差超过了符号周期引起的SWE对系统的稳健性和跟窄带系统的兼容性提出挑战。受到SWE的影响,接收机接收信号会受到较为严重的码间干扰。此前的研究大多都是将目光放在如何消除SWE,提高系统的传输可靠性上。这里,本文通过调整发射机天线阵列的角度,使得合法者不受SWE的影响,而其他方向的窃听者受到SWE的影响,接收性能急剧恶化,从而在天线增益和符号间干扰两方面提高系统的安全性能。