由于无线通信网络的开放性,使得无线通信的安全问题成为研究重点。中继协作的通信系统可以有效地增加信道容量;物理层安全技术可以大大提升通信网络的安全性能。本文主要研究了两用户通过中继进行信息交换且存在窃听者的无线通信系统,利用物理层安全技术和中继波束成形技术,提出相应的优化模型,设计有效的优化算法,以达到安全高效通信的目的。本文首先研究了双向中继通信的窃听信道:其中窃听者的信道信息部分已知,每个节点具备单根天线。针对此系统,本文提出了在用户的信噪比高于给定阈值和窃听者的传输速率有上界的约束下,极小化中继发送功率的优化模型。由于窃听者的信道信息部分已知,该问题可以转化为一个鲁棒优化问题。鲁棒优化问题往往是非凸的优化问题。本文通过放缩等方式消除了问题中的三个不确定性参数,将鲁棒优化问题转化成一个二次约束二次规划问题,再应用半正定松弛方法求其最优解。本文算法与信道完全已知的情形进行了对比,两者的数值仿真结果接近,显示了本文提出的算法的有效性。在上述算法中,由于放缩等因素使得问题的可行域减小,放缩之后的问题可能不存在可行解。为此,本文将算法进行改进,进一步提出了一个迭代算法,利用线搜索技术寻找合适的迭代方向及步长,使得在迭代过程中保持迭代点的可行性。在改进的算法中,每步迭代需求解两个二次约束二次规划子问题和一个一维的二次约束二次规划子问题。对于前两个子问题,本文利用半正定松弛方法求其最优解。对于一维的二次约束二次规划问题,本文通过对一维变量分类讨论进行求解。改进算法与已有文献的算法进行了对比,本文提出的算法可以得到更高的安全速率。同时,数值模拟结果显示,本文提出的算法收敛速度快,并且有超过85%的算例达到问题的最优解。