随着无线通信技术的进步和手机的普及,人们对要求更优质的通话服务质量QoS (Quality of Service)和更高速的数据传输。需求带动着理论的发展和技术的进步,在最近普及的4G网络中,MIMO (Multiple Input Multiple Output)技术因为其特有的优势得到了应用。MIMO技术通过能够提高系统的空间分集增益和复用增益,减小信号衰落带来的影响,提高信息传输速率,保障系统的QoS。然而由于需要多根天线的架设,会导致设备成本过高或者不便于移动。在通信可靠性的基础上,信息的安全性和私密性也是通信研究过程中的一个关键问题,特别是在无线通信中由于无线介质的广播特性,信息传输的安全性尤为重要。现有的保证信息机密传输的手段主要是根据香农提出的信息论安全方案,在网络层信号的编码和解码阶段使用加密方法,通过安全秘钥算法或者公钥方法,确保只有享有私钥的用户才能解码出原信息。然而由于计算机的迅速发展,秘钥分配更加困难,通过加密手段保证系统安全性将会越来越困难。因此,物理层安全无线通信受到了极大的期望。物理层安全是指在TCP/IP模型中的物理层中,通过一定的技术方案,尽量实现信息的无泄漏传输。物理层安全是基于Wyner在1975年提出的理论,当窃听用户的CSI (Channel State Information)较差于合法用户的CSI时,就可以得出信息传输的最大安全速率。在这个理论前提下,关于物理层安全的研究有着快速的发展。协作中继网络中,利用多个移动终端作为中继,相互协作转发信号,可以形成一个类似MIMO的多天线阵列。可以具有MIMO技术的优势增加空信息容量、降低能量消耗,并且具有很好的便携性。在多中继网络中利用波束成形技术,可以通过简洁明了的信号加权,实现信号的定向传输,提高接收端信号的SNR(Signal to Noise Ratio)。在物理层安全中,利用多中继协作通信,可以使用更多的技术比如波束成形、协作干扰和干扰对齐来提高系统的安全容量,增加传输中的保密自由度。本论文的主要主要贡献点如下：提出了在多跳多中继网络中通过遗传算法设计波束权值来提高系统的可靠性。当信道衰落尤为严重的时候,通过两个中继群依次对信号进行放大转发来增加信号的SNR。根据优化问题信噪比最大化和中继功率最小化来分别设计两个中继群的波束权重。在问题优化过程中,将两个变量的优化问题通过数学计算简化为单一变量的问题,进而使用遗传算法进行求解。对比用遗传算法直接求解原始问题,优化后的问题由于初始变量的折半,会减少很多的计算时间。仿真结果表明跟迭代计算凸优化方法对比,我们的方法有了较大的性能提升。研究了在多中继网络中的物理层安全问题,计算系统最大可达的安全自由度。其中每一个节点均配备单根天线。多个中继分为两个群组,不仅帮助信息的传输,同时通过发送高斯噪声干扰潜在的恶意窃听用户来提高信息在物理层传输的安全性。通过在干扰群组中共享随机的干扰信号,可以计算出多中继系统中可以达到的最大自由度DoF (Degree of Freedom)为1/2,并且在高信噪比下更为接近。给出了达到最大DoF的充分必要条件,并且清晰明确的写出达到最大DoF所需要采取的策略,为系统的基本设计方案给出了指引。根据最大DoF的策略,设计了一个简单的波束成形和协作干扰系统,分别考虑在窃听端CSI已知或者未知的情况下的系统参数设计,能量分配等方案。仿真结果表明我们的方案比传统的中继网络有个更高的安全速率,并且在高信噪比下的优势更为突出。