物理层安全(Physical Layer Security)技术在保证信息完全安全传输的同时,具有普适性、可计算、易实现等特点,因此迅速成为安全通信的研究热点。物理层安全方法有可能成为下一代移动通信系统,尤其是军事通信系统等安全性要求较高的领域中保证信息安全传输的关键技术之一。物理层安全技术中,如何快速计算与提高多天线技术下的系统安全容量以及在此安全容量下的编码方法是物理层安全研究中的核心问题,也是研究难点所在。本文以提高MIMO窃听信道安全容量及近安全容量的编码为研究重点,主要完成以下创新性工作:1、发送端(Alice)与窃听端(Eve)之间的信道质量优于正常接收端(Bob)与发送端之间的信道质量,或窃听端配备的天线数量大于发送端天线数量的情况下,本文采用信噪一体化(ISAN)方法提升MIMO窃听信道的安全容量,使MIMO窃听信道始终具有正的安全容量。主要研究了两种情形下的信噪一体化方法,即多输入单输出单天线窃听(MISOSE)与多输入多输出多天线窃听(MIMOME)。为保证Bob具有一定的信号接收质量,同时又能够有效地干扰窃听者,需满足下列条件:Alice选取对应于正常接收信道协方差矩阵的最大特征值的特征向量为信号向量,人工噪声向量为其他特征向量的线性组合,信号向量与噪声向量相互正交,互不影响。研究表明,本文设计的信噪一体化方法可保证MIMO窃听信道始终具有正的安全容量,从而可有效提高通信系统安全性能。2、提出随机复数域编码(Random Complex Field,RCF)在MIMO窃听信道中的设计方法。根据Eve是否知道RCF编码矩阵,研究了两种情况:当Eve不知道RCF编码矩阵时,直接将RCF编码作为信息传输的预编码方法;当Eve知道RCF编码矩阵时,提出了联合信号噪声(ISAN-RCF)设计方法,并将之应用于当窃听端为被动窃听时的MIMO窃听信道中。研究证明,当Eve不知道RCF编码矩阵的情况下,Eve接收误码率始终保持在0.5,Eve得不到任何信源信息;在Eve知道RCF编码矩阵时,ISAN方法可恶化窃听者信道,确保Bob与Alice之间的信道优于Eve与Alice之间的信道,从而使安全容量为正。在提高系统安全性的同时,由于RCF编码具有全分集全码率的特性,RCF编码使得Bob能够有效对抗信道衰落。仿真结果表明,ISAN-RCF方法既能保证系统数据传输的可靠性,又能保证其安全性。3、提出了基于随机扰码加LDPC的安全编码方法,并将其应用于MIMO窃听信道中。随机扰码具有误码扩散的特性,当接收信噪比较低时,随机扰码的误码扩散性能可使LDPC编码的误码率扩散到0.5。以安全间距作为所提方法的安全性指标时,相比于未加扰码的LDPC编码,随机扰码降低了LDPC编码的安全间距,使窃听端的误码率以更大的概率接近于0.5,从而提高了通信系统的安全性。在此基础上,提出了采用LT无比率编码作为扰码的方法。与随机扰码方法相比,LT编码在保证安全性的前提下,在增加的码长不超过原码10%的情况下,可大大降低随机扰码的编码复杂度,从而可更好的实现信息的实时传输。