随着无线通信系统的快速发展,用户对通信速率以及业务量的需求日益增长,无线通信系统所需的频谱资源日渐匮乏,面临巨大的挑战。近年来,同时同频全双工技术(Co-time Co-frequency Full Duplex,CCFD)受到人们的密切关注,它可以使上下行链路同时同频地传输信号,因此可以解决无线频谱资源紧张的问题。全双工通信系统中存在的自干扰是影响系统传输性能的重要因素之一,目前全双工自干扰消除技术得到了比较广泛和深入的研究,并取得了较好的成果。但由于自干扰的存在,使得全双工场景下物理层安全研究区别于传统场景下的物理层安全研究,自干扰给全双工系统带来了新的干扰环境以及资源分配需求,使得全双工系统的物理层安全面临更多的挑战和可能性。本文针对全双工场景下的物理层安全进行研究,首先充分利用全双工同时同频的特点,提出一种区别于传统物理层模型的方法,利用系统的自干扰对窃听者进行干扰,从而实现无需人工噪声或外部干扰节点的安全传输。本文还提出全双工系统安全传输下的功率的优化模型,保证基站或系统使用最小的发送功率实现全双工系统上下行的安全传输。本文主要用凸优化的相关定理和理论求解优化模型,在系统自干扰消除不完全的情况,又提出两级求解的方法,在上下行功率联合优化的情况,采用循环坐标下降法的求解方法。仿真发现本文提出的方法相较于传统的人工噪声方法能节约更多的发射功率。本文还针对全双工协作干扰模型下的天线选择算法进行研究,对于天线配对数固定已知的情况,提出了线随机天线选择法、基于合法信道容量最大化的天线选择法和基于窃听信道容量最小化的天线选择法,通过仿真发现窃听信道质量相对较好时应采用窃听信道容量最小化的天线选择法从而获得更佳的系统安全性能。对于天线配对数未知的情况,本文提出了基于天线优先级的天线选择方案,天线优先级分别取决于三个准则:基于合法信道SINR的准则、基于窃听信道SINR的准则以及基于天线安全系数的准则,并通过仿真得出基于天线安全系数的准则下的天线选择法具有更佳的性能。今后的进一步研究工作可以以发射功率为约束条件,提出以安全速率最大化为目标的优化模型,新的优化模型的不同又需要进一步寻求对应新的转换求解方法。同时,未来还可以在现有研究的基础上探讨不同天线的功率分配问题,进一步优化系统功率并提高系统安全性能。此外,未来还可以研究将安全性与自干扰消除指标相结合的天线选择算法,从而提高系统的整体性能。