在无线通信网络的研究中,由于无线通信的开放性,通信安全问题备受关注。不同于传统的加密方式,基于信息论的物理层安全技术为通信安全提供了新的思路,物理层安全问题逐步成为人们研究的重点。利用中继协作通信在无线通信领域的应用也越来越广泛,其场景和策略的设计也越来越复杂。针对中继协作通信的场景,本文主要研究了利用物理层安全技术,优化设计安全波束成形,以达到安全、有效通信的目的。本文首先研究了中继网络的双向通信窃听模型,假设窃听者的信道状态信息(CSI)已知,利用双向通信模型对防止窃听的天然优势,建立基于各用户服务质量(QoS)优化模型,限制每个用户接收信号的信干噪比(SINR),以最小化总功率为目标函数,设计最优的安全波束成形向量。推导了模型的求解方法,并且将该问题转化为带有四个约束的半定规划(SDP)问题,通过寻找SDP问题的秩一解,求得原问题的最优解。实验表明,本文优化模型所设计的波束成形向量可以达到安全传输的效果。此外,本文考虑了窃听者CSI不完全已知的情况,可以估计其范围,并假设估计误差服从Gauss分布。本文根据Gauss分布的性质,得到鲁棒约束条件,并引入了水平参数的概念,提出了一般的鲁棒优化模型。推导了模型的求解方法,并且将该问题转化为半定规划问题求解,并通过寻找半定规划的秩一解,求得原问题的最优解,得到安全的中继协作波束成形向量。通过算法仿真得到合适的水平参数的选取范围。并且实验表明,鲁棒优化模型比以往的算法有更好的防窃听效果。针对中继不可信的情况,考虑了更为一般的多输入多输出多窃听(MIMOME)模型。约束每个用户接收到信号的互信息,以最小化总发送功率为目标函数,设计源节点和中继处的波束成形。文中详细推导了模型的转化过程,并设计算法优化源节点和中继节点的波束成形。仿真结果表明了算法的收敛性和有效性。最后,我们讨论了本文算法的不足和进一步要研究的方向。