21世纪以来,无人机被广泛应用于通信、农业、军事、物流等各个领域。尤其是在通信领域,无人机因具备高机动性的特点而得到了充分、广泛的应用。一方面,无人机可以作为空中基站部署在蜂窝数据网络拥堵的地方来缓解地面基站的压力,或用于发生自然灾害的地区来提供临时紧急的通信;另一方面,无人机也可作为中继用以辅助远距离的信息传输。随着无人机在通信领域的深入使用,无人机通信系统的性能亟需提升来满足多样化的应用场景,因此无人机与其它通信技术相结合的方案被不断提出。其中,无人机与非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术结合的方案因其可以实现多个用户在同一时刻、同一频率、同一空间中接入网络而被广泛应用。然而,由于无线通信中的通信端口是公共开放的,非法接入链路的攻击者可以窃听或者篡改信令,使得无线通信的安全受到严重的挑战,尤其是无人机与地面设备间的空对地通信。为了提升无人机通信系统的安全性能,基于信息论提出的物理层安全（Physical-Layer Security,PLS）技术被应用其中。不同于密钥体系安全技术,它是利用无线信道的特征来实现安全传输的,非常契合无人机对轻量化安全技术的要求。因此,本文对无人机中继辅助NOMA通信系统的PLS性能进行了分析。本文的主要工作概括如下:（1）研究了结合NOMA技术的无人机通信系统的PLS性能。在系统中,无人机作为中继采用解码转发协议将基站发出的NOMA信号传输到多个用户,且基站与无人机之间和无人机与用户之间的通信链路均被窃听者非法窃听。同时考虑系统中所有的无线信道均遵循Nakagami-m衰落且伴随着路径损耗的情况下,推导了每个用户保密中断概率（Secrecy Outage Probability,SOP）的闭合解析式,其正确性通过蒙特卡洛仿真得到了验证。此外,也分析了系统的各个参数,如无人机的高度、路径损耗指数、功率分配系数等对用户保密性能的影响。（2）为了进一步提升频谱资源利用率,考虑将（1）中的通信系统置于认知无线电网络中作为次级网络,并采用了多天线方案以改善通信质量。具体地说,将（1）中的通信系统作为次级网络,以下垫式的方式共享主网络的频谱资源;同时还考虑了信源和用户都装配多天线的场景,前者采用天线选择方案来发射信号,后者则采用最大比合并处理接收到的信号。此外,为了使研究更加准确,在窃听者处也考虑了多天线场景并使用最大比合并方案。在此系统模型下,推导了用户SOP的闭合表达式,并用仿真验证了理论分析的正确性。然后进一步分析了干扰功率阈值、天线数量等参数以及无人机部署位置对系统保密性能的影响。结果表明干扰功率阈值、天线数量与系统的保密性能呈正相关,且存在一个使得用户保密中断性能最优的无人机部署位置,该位置靠近用户但不完全与之重合。