随着无线通信系统在现代社会发挥的作用越来越大,用户对无线通信系统传输的性能需求不断提高,安全问题在无线网络中至关重要。物理层安全技术作为新兴的技术可以有效防止窃听,已经被人们广泛关注。由于无线通信技术的广泛应用,对频谱利用率的需求也日益增加。OFDM技术由于频谱利用率高的优点已经普遍应用于宽带无线通信系统中。毫米波通信通过使用大量未被利用的带宽可以提供高数据速率,成为未来无线通信中可以解决频谱拥塞问题的关键技术。本文基于OFDM系统对物理层安全方法进行研究,主要工作内容包括以下三个方面:(1)本文提出了一种适用于MIMO-OFDM无线通信系统的物理层安全技术。首先提出一种滤波器技术,该技术通过在发送端加入传输滤波器来破坏窃听者接收信号的正交性。合法用户可以通过接收滤波器恢复出原始信号,而窃听者接收到的信息被破坏,因此可以有效地防止窃听。其次,本文又加入了人工噪声技术进一步干扰窃听者的接收。人工噪声利用剩余能量产生在合法信道的零空间,在不影响合法用户的前提下干扰窃听者对信号的接收。仿真结果证明了利用滤波器和人工噪声,可以增加窃听者的误码率性能,增强了OFDM系统的物理层安全。(2)本文对毫米波波段的OFDM系统混合预编码设计进行研究,提出一种基于MIMO-OFDM毫米波系统的混合预编码迭代技术。首先,在未知信道信息的情况下,应用压缩传感技术有效地估计等效信道。根据估计出的等效信道,设计模拟预编码/合并矩阵来保证每个数据流的信道增益。在所有的模拟波束形成器对确定后,设计基带数字预编码/合并矩阵以进一步减轻干扰。仿真结果表明,本文提出的方案可以实现显著的性能改进。(3)本文研究了大规模毫米波OFDM系统物理层安全,提出了一种迭代的混合预编码设计算法。在有多个窃听者的场景下,通过最大化保密速率进行混合预编码设计。首先,在窃听者信道的零空间最大化合法接收者的平均SNR来防止窃听。然后,提出一种迭代的混合预编码设计来最大化保密速率的下限。通过仿真结果可以发现,迭代的混合预编码设计可以达到较高的保密速率。