随着第五代移动通信网络(5G)的发展,无人机(Unmanned Aerial Vehicle,UAV)作为特殊的空中持续性通信支持设备将在5G网络中扮演着重要的角色,为进一步提高移动通信网络的通信速率、网络容量以及区域覆盖提供可能。无人机的应用范围十分广泛,其不仅可以作为低空移动用户接入到移动通信网络中,还可以作为移动通信网络中的空中通信平台为地面用户提供通信服务。但是,由于无人机与地面节点通信时无线信道具有开放和视距特性,其相比于传统地面通信更容易遭受到恶意窃听者的窃听攻击。为提高无人机通信的保密性,物理层安全提供了一种有效的解决方案。与传统的以密码学为基础的安全技术不同,物理层安全技术主要从信息论的角度为通信系统提供绝对可靠的通信安全。因此,研究基于物理层安全的无人机通信具有重要的实际和研究价值。基于此,本文主要研究了两种不同的场景下,利用物理层安全技术提高无人机通信的安全性能。本文的主要内容如下:1)针对基于协作多点(Coordinated Multipoint,CoMP)接收的无人机安全通信系统,本文提出无人机三维空间飞行轨迹和发射功率分配的联合优化框架,以提高系统的安全速率。然而,该联合优化问题是非凸问题,因此难以求解。为求解该问题,首先,利用交替优化技术将该问题转化为功率分配和轨迹优化两个子问题。然后,通过凸优化理论和连续凸近似技术(Successive Convex Approximation,SCA)分别求解这两个子问题,并通过迭代优化两个子问题得到原问题的局部最优解。最后,通过数值仿真验证了该迭代算法的收敛性和有效性。数值仿真表明,由于协作多点接收系统中存在空间分集接收增益,与传统的二维飞行轨迹优化相比,无人机需要优化三维飞行轨迹,以获得更佳的系统安全性能。2)针对双无人机场景,本文进一步提出一种基于协作干扰(cooperative jamming)的无人机安全通信策略。该系统包含一个通信无人机和其附近的一个辅助无人机。当通信无人机与地面目标节点进行通信时,通过利用辅助无人机发射人工噪声信号协作干扰潜在的窃听者以提高该系统的通信安全。在考虑窃听者位置存在误差的情况下,通过联合优化两架无人机的二维空间飞行轨迹和发射功率分配以最大化系统的平均安全速率。由于该优化问题目标函数为隐函数且非凸,所以需要通过合理的近似处理后利用交替优化技术将该问题转化为两架无人机的飞行轨迹和发射功率优化两个子问题。基于此,通过连续凸近似技术将两个子问题转为两个标准的凸问题,并通过迭代收敛算法得到原问题的局部最优解。仿真结果不仅验证了算法的有效性,而且证明通过两架无人机分别飞向地面目标节点和窃听者进行基于协作干扰的通信,可以有效提高系统的安全性能。