自由空间光（Free Space Optical,FSO）通信,由于能够提供超高的传输速率和系统容量、免费的频谱和抗电磁干扰等优点迅速成为研究热点。但FSO通信质量受天气环境影响严重,且FSO通信距离不长。此外,随着人们对通信的需求急剧增加,传统的射频（Radio Frequency,RF）通信频谱资源短缺问题日益突出。为了充分利用FSO通信和RF通信的优势,同时延长传输距离,学术界提出了混合RF-FSO通信系统。另一方面,由于无线通信固有的安全问题,在新的形式下,物理层安全理论被提出,其主要思想是利用无线信道的随机性和时变性来实现安全传输。因此,物理层安全问题也被引入到混合RF-FSO系统中。本文研究了双跳混合RF-FSO系统在不同场景下的物理层安全性能,为混合RF-FSO通信的物理层安全研究提供解析和数值上的见解。主要贡献如下:1.研究分析了混合RF-FSO系统中FSO信道被窃听时的物理层安全性能。其中,考虑中继节点采用译码转发协议,RF信道和FSO信道分别服从Rayleigh分布和Gamma-Gamma分布。推导出了系统保密性能的解析表达式:保密中断概率和严格正保密容量概率。此外,通过蒙特卡洛仿真验证了理论推导的正确性,并讨论了各个参数对系统保密性能的影响,如指向误差,湍流强度和检测技术。结果表明,稍微增加湍流强度将导致系统安全性能严重衰减,同时,外差检测技术的安全性优于强度调制/直接检测技术。2.本文研究分析了多中继和多孔径场景下混合RF-FSO系统的物理层安全性能。相比于研究内容1的混合RF-FSO系统,研究内容2将RF信道改进为Nakagami-m分布,并采用了多中继方案和多个FSO接收孔径的场景。因此,系统模型更具实用性和挑战性。在部分中继选择策略和等增益合并方案下,推导了系统保密性能的解析表达式:保密中断概率和严格正保密容量概率。此外,通过蒙特卡洛仿真验证了理论推导的正确性,并讨论了各个参数对系统保密性能的影响,如中继数量和孔径数量。结果表明,多中继方案能够有效提高RF链路对抗信道衰落的能力,多孔径接收技术能显著降低大气湍流对FSO通信的影响,系统安全性能明显优于单中继和单孔径系统。