无线网络是当前时代信息传输的重要手段,其应用领域涉及航空航天、交通运输、军事国防等国家重大行业。由于无线信道固有的开放性与广播性,无线网络信息传输一直面临严峻的安全挑战。传统的无线网络信息安全技术是基于计算复杂度的密码学机制,通过密钥在上层对数据进行加密,是“计算上的安全”。随着无线设备计算能力的不断提升,传统加密算法面临被暴力破解的风险。作为上层密码学安全的补充技术,物理层安全技术基于信息论,旨在利用无线信道固有的差异化特性从底层实现信息安全传输,已被视为无线网络安全的关键技术之一。多天线无线协作通信系统是无线网络的一个基本组成部分。在某些应用场景中,协作中继相比于合法用户安全等级较低或信息接入权限较低,其在协助转发信息时还会窃听信息,即中继是不可信的。如何设计多天线不可信中继协作安全传输方法,利用不可信中继提高网络连通性并保障信息安全传输,是本文的主要研究问题。当前已有部分学者从不同角度开展了关于多天线不可信中继协作安全传输方法研究。然而,现有工作存在以下几方面的局限性:（1）现有的半双工多天线不可信中继协作安全传输方法能源消耗高,无法满足网络节点功率受限情况下安全高效的信息传输需求。（2）缺乏针对全双工多天线不可信中继协作安全传输方法的研究,难以保障全双工多天线不可信中继协作系统的信息安全传输。（3）缺乏针对信能同传多天线不可信中继协作安全传输方法的研究,亟需设计合理的协作安全传输方法,向不可信中继供给能量的同时保障信息传输安全。针对上述现有研究的局限,本文系统地研究了半双工、全双工以及信能同传多天线不可信中继协作通信系统的物理层安全传输问题。利用多天线空域资源,设计了不可信中继协作安全传输方法,在保障安全的同时,实现了安全能效最大化、安全速率最大化等目标。本文的主要工作与创新点如下:（1）半双工多天线不可信中继协作安全传输方法本文建立了半双工多天线不可信中继协作安全传输模型,在假设信源、中继采用任意预编码配置的情况下,量化了系统的安全速率、能源消耗、安全能效等性能指标,构建了以最大化安全能效为目标,保证预先给定的安全速率阈值为约束的非凸优化问题;采用分式规划、罚函数法、交替优化、凸差规划等优化方法,设计了一个层次化的优化理论框架,提出了安全能效最大化的信源中继联合预编码方法;证明了设计的优化理论框架也可用于解决安全速率最大化问题,提出了安全速率最大化的信源中继联合预编码方法;为降低所提优化框架复杂度,提出了一种基于广义奇异值分解法的低复杂度次优预编码方法;仿真结果证明了与现有方法相比,提出的安全能效最大化预编码方法、基于广义奇异值分解的次优方法既保证了一定的安全速率,也改善了系统能源利用率,而提出的安全速率最大化预编码方法有效提升了安全速率。（2）全双工多天线不可信中继协作安全传输方法本文引入了全双工传输技术,建立了全双工多天线不可信中继协作安全传输模型,计算了系统安全速率的数学表达式,在假设各节点功率有限的条件下,构建了以最大化安全速率为目标的波束成形设计问题;采用交替优化、障碍函数法、半定规划等优化方法,获得了波束成形设计问题的局部最优解,提出了安全速率最大化的信源中继联合波束成形方法;针对该方法中信道状态信息均精确已知的假设过于理想的问题,提出了基于维纳预测和渐近近似的两种次优安全波束成形方法,其中维纳预测方法预估了下一时隙的信道状态信息,渐近近似方法给出了安全速率的理论上界;仿真结果表明两种次优的安全波束成形方法在大多数天线配置下性能逼近最优方法,近似效果良好,且在高信噪比条件下,提出的三种全双工不可信中继协作安全传输方法的可达安全速率优于现有的安全传输方法。（3）信能同传多天线不可信中继协作安全传输方法本文引入了信能同传技术,建立了信能同传多天线不可信中继协作安全传输模型,在假设信源预编码、中继预编码与能量分割因子均任意的条件下,计算了系统的安全速率、能源消耗、安全能效等数学表达式,构建了安全能效最大化问题;以构造矩阵凸函数为思路,结合凸差规划、半定规划解决了安全能效最大化问题,提出了安全能效最大化的联合预编码与能量分割方法;通过调整优化算法配置,将安全能效最大化问题转化为安全速率最大化问题,提出了安全速率最大化的预编码与能量分割方法;将无约束优化方法与牛顿迭代法结合,提出了一种低复杂度预编码与能量分割次优方法;仿真结果证明了与现有方法相比,提出的安全能效最大化预编码与能量分割方法有效改善了系统的能源利用率。本文提出的物理层安全方法保障了多天线不可信中继协作系统信息安全传输,兼顾了系统安全速率、安全能效以及方法计算复杂度,对于推动多天线不可信中继协作系统安全研究和应用具有一定的理论和实际意义。