无线信道的开放性、无线网络架构的不稳定性和无线终端的移动性,为无线传输的有效性和可靠性带来了巨大挑战。协作无线通信是近年来涌现出的极具应用前景的一项无线通信技术,在通过中继节点协作提升系统传输性能的同时,中继节点的引入也给通信安全带来了新的挑战。传统基于密码系统加密的安全体制依赖于两个重要前提:一是接收方无差错的接收到发送方发出的密文信息;二是窃听者的计算能力有限,在保密时效内无法破译密文信息。其在未来无线网络尤其是边缘网络中的应用,面临巨大挑战。信息论奠基人C.E.Shannon提出的信息理论安全(或称作完美安全性)概念,其安全性不受制于计算能力,A.D.Wyner在此基础上,提出了在无线衰落信道下利用无线信道随机特性可实现保密安全传输,定义了保密容量的概念,为无线物理层安全技术奠定了理论基础。无线系统物理层安全设计的目标是提升系统保密容量,而保密容量提升的实质就是使合法用户信道的接收信干噪比尽可能优于窃听信道的接收信干噪比,使得窃听者对于所传保密信息的模糊度尽可能提高。本文以保密容量为性能指标,针对协作无线通信引入后物理层安全设计的新场景新问题,重点分析三节点双向放大转发(Aplify-and-Forward,AF)中继协作通信系统安全性问题。本文的主要工作如下:1.针对三时隙放大转发双向中继协作无线通信系统的物理层安全传输问题,提出了一种中继功率分配/模拟网络编码方案,提升系统的保密传输能力。首先推导出由单一源节点、单一目的节点、单一双向中继节点和一个窃听节点组成的基本场景下,保密容量的表达形式,提出了单中继协作通信系统中以保密容量为优化目标的最优中继功率分配问题。然后在理想信道状态信息(Channel State Information,CSI)已知的条件下,计算中继对双向信号进行放大转发过程中的最优功率分配方案,并将该方案由单中继协作通信系统扩展到具有多个中继/多天线的协作通信系统。通过计算机仿真,将该方案的保密传输性能与未经优化的双向AF协作无线协议进行了对比分析,验证了对中继节点进行功率分配优化可有效提升系统保密容量。同时还从仿真结果中观察到,无论是否引入功率分配优化,两个合法通信者间的中间位置都是最有利于系统保密传输的中继位置;而最优中继功率分配方案的引入,可以降低中继位置不同带来的保密传输性能差异,即中继在不同位置获得的保密容量性能更趋于一致,降低了中继位置和信道状态变化对系统保密传输性能的制约。2.为了进一步提高所研究三时隙双向AF中继协作无线通信系统的保密容量性能,考虑在改善合法用户接收的同时,加入发射阻塞信号增加窃听者接收模糊性的设计思路,提出了合法终端广播阻塞干扰信号与多天线中继波束赋形相结合的方法。针对现有阻塞方案多需引入额外节点发射协作阻塞信号且系统复杂度偏高的缺点,提出在双向中继协议的第一、二时隙(合法用户发射时隙),由合法用户中不发射信息的一方发射干扰阻塞,在获得保密容量提升效果的同时,省去了专门的干扰节点,从而降低了系统复杂度。在协议的第三时隙,中继在对前两时隙接收到的信息进行放大转发时,提出用两个波束赋形矩阵分别对双向信号进行处理后合并,并根据信道状态优化每个波束赋形矩阵,改善合法接收的同时,将合法接收机对端所发的未知阻塞干扰信号投射在信道零空间,通过联合优化的方式使得合法通信双方的吞吐量之和最大化。仿真结果表明,所提方案可显著提升系统保密传输性能。