物理层网络编码（Physical-layer network coding,PNC）理论利用电磁信号的叠加特性,大幅提升了通信系统的吞吐量,引起广大学者的关注。将PNC技术应用到通信网络中,用以满足用户个性化、多元化的需求,也成为当前的研究热点。在实际通信环境中,存在大量的中继节点,又因电磁信号的广播特性,源节点广播的有效信息除了合法中继节点可以接收外,非法节点同样可以窃听接收。在此背景下,本文对多中继PNC系统的安全性能展开研究,其主要工作归纳为如下:首先,分析了中继节点数目对多中继PNC系统传输效率与误码率性能的影响。详细阐述了中继数目分别为偶数与奇数时,PNC系统各节点的映射规则与传输原理。仿真表明,随着中继数目增加,系统受衰落与噪声干扰的影响增大,误码率性能变差。为此,引入了LDPC码,设计了多中继PNC-LDPC系统,并给出LDPC编码算法与译码方案。相同环境中的仿真结果表明,联合LDPC码,有效减少了中继节点处的性能损失,降低误码率。其次,考虑到多中继PNC系统的传输安全,提出联合加密算法的解决方案。介绍了高级加密标准（Advanced Encryption Standard,AES）与数据加密标准（Data Encryption Standard,DES）算法的加密原理,并以此构建了3中继PNC-AES/DES系统,解决了加密算法与PNC系统的融合问题,详细说明了加密算法在PNC系统中的应用规则。理论与仿真说明两种加密系统均具有较好的加密效果,但3中继PNC-AES系统在算法安全性与加密效率方面,相比DES加密系统更胜一筹。最后,为了完善多中继PNC-AES系统的安全性能,比较了多种AES算法分组加密的模式,选用了可以识别非法节点篡改攻击的消息认证码（Cipher Message Authentication Code,CMAC）模式。此外,利用RSA公钥加密算法生成数据加密所需公钥,降低非法节点因探测密文信息获得密钥信息的风险。综上研究,设计了3中继PNC-RSA-AES混合加密系统。通过仿真,分析多中继混合加密系统的性能,相较3中继PNC-AES系统,该方案以一定加密效率为代价,获得了更可靠的安全性能。