随着5G无线通信技术研究热潮的到来,信息传输速率得到了迅速的提升,同时移动终端的客户量也逐渐增加,因此,在传输过程中用户保密信息的安全性和可靠性就显得尤为重要。基于传统密钥体系的密码学,直接对信息加密后传输,来保障信息的安全性。但由于半导体材料技术的进步,计算机处理能力得到了飞速发展,导致了传统的加密算法可能轻易地破解,极大的威胁了无线通信数据传输的安全性。鉴于此,物理层安全技术受到了学术界广泛的关注,同时协作中继网络技术具备增大信号覆盖范围和提升网络容量等优势。因此,结合协作中继技术、协作加扰技术和天线选择技术,利用无线信道的时变特性和空间特性,可以直接从物理层确保信息的安全可靠传输。在非可信中继网络中,本文研究了多天线全双工目的节点加扰策略、半双工目的节点加扰策略和半双工不加扰策略的安全可靠传输性能。为提升三种策略的安全可靠性能,提出了基于切换式分离天线部署的最优天线选择方案。在瑞利衰落信道下,针对最优天线选择的三种策略,本文推导了常规天线下的遍历可达安全速率的安全性能指标,中断概率和窃听概率的安全可靠折衷性能指标,并推导了大天线数下的遍历可达安全速率和安全中断概率等渐近安全性能指标。针对每个时隙发送功率固定情况下,给出了最优功率分配方案设计。在MATLAB平台上的仿真结果显示,理论分析与蒙特卡洛仿真结果十分吻合,通过三种策略的性能对比分析,凸显出全双工目的节点加扰策略的安全可靠性能优越性。研究结果表明:本文设计的最优天线选择下的三种策略能够显著地改善非可信中继系统的安全传输性能。在非可信中继网络中可以通过协作加扰和天线选择技术,来有效地防止内部窃听系统窃听保密信息;并提出全双工加扰技术和最优功率分配方案进一步改善系统的安全可靠性能。在最优天线选择下,得出全双工目的节点加扰策略的安全分集阶数与天线数成正比,可实现天线全分集增益。随着天线数的增加,系统的安全可靠折衷性能更佳,且在大天线数下,可获得全双工目的节点加扰策略的最优功率分配因子的闭合表达式,进而指导实际系统的设计。