为了满足5G移动通信的带宽要求,必须使用毫米波进行通信。同时,Massive MIMO作为5G的关键技术,具有更为准确的波束控制能力,结合毫米波使用,能够克服毫米波传播路径短的问题,从而为物理层安全提供新的保障。此外,波束成形技术可以将信号的能量集中在目标用户方向,从而改善频谱效率。本文着眼于毫米波Cluster-Ray通信模型,针对实际应用中的MISO、MIMO系统的通信安全问题展开了研究。主要分为以下三个部分:提出了一种基于迭代最小中断的RF波束成形方法。该方法以最小化安全中断概率为目标对RF波束成形器进行求解。同时为了实现空间分集,将最大化RF波束成形器在相应的控制矢量上投影的几何均值作为优化因子,以传输及接收控制矢量的叠加对波束成形器进行初始化,并基于该初始值进行迭代计算最优的RF预编码器及合成器,可防止局部最大值问题。该方法不仅能够实现快速收敛,并且具有更好的鲁棒性。提出了一种空间可控的噪声注入混合波束成形方法。以最大化接收端波束成形增益为出发点,对波束成形矢量及噪声矢量进行初始化。在此基础上,结合量化的移相器与有限的射频链路,在特定的范围区间进行噪声辐射干扰,该区间认为是可控的,同时将发射天线进行分组,对整组的天线进行开关控制,可降低计算复杂度。实验结果表明,空间可控的噪声注入法能够显著改善保密率。提出了一种反馈不完整信道状态信息条件下基于人工噪声的功率分配策略。该方法在满足合法接收方与窃听方QoS约束的基础上对保密进行定义,通过对合法方向接收信噪比的最小值进行强制约束,同时限定窃听方向接收信噪比的上界,达到安全传输的目的。仿真结果表明,该方法能有效地满足QoS约束,实现安全传输,同时具有高度计算简捷性。