面对如今迅速发展和广泛应用的无线通信技术,如何更大程度的加快信息传输速率、保证数据信息传输更加可靠成为了如今急需解决的一个难题。物理层网络编码(Physical-Layer Network Coding,PNC)技术为解决上述问题提供了重要思路,因其能够大幅度的提升网络吞吐量,所以迅速成为了诸多学者的研究热点。本文主要对双向中继信道模型中的16QAM调制下的PNC技术,进行了详尽的分析研究。为解决中继处的译码问题,给出了改进方案,尤其是提出了应用嵌套格码(Nested Lattice)的思想对整个中继通信过程的编译码方案进行重新设计,从而提升系统的误码性能。本文首先以最基本的中继通信模型——双向中继信道(TWRC)模型为例,对传统多跳传输机制、直接网络编码机制以及物理层网络编码机制进行分析,并重点分析了PNC技术的基本理论、中继映射关系及其通信过程。然后又进一步介绍了最大后验概率(MAP)信号估计方法,以及中继节点处的接收判决方案,用于后续对PNC性能进行分析。最后详尽的分析了网格码和嵌套格码的基本理论,定义了模Lattice加性噪声(MLAN)信道,并分析其信道容量。然后对基于BPSK调制的PNC通信过程进行了描述,并分析此时中继处的映射解调方案,推导出其理论误码率公式,并与多跳及NC机制进行对比仿真。又针对16QAM调制下两路信号在中继处产生码字重叠的问题,研究如何将16QAM加以改进来使其顺利地应用于PNC技术中。提出最直接的解决方案,设计中继节点处映射解调方案、根据MAP接收机制计算判决门限、理论推导出误码率公式并进行误码率仿真分析。此方案相比于原16QAM调制PNC方案误码性能有所提升。最后本文分析了基于嵌套格码的等效MLAN信道的编解码过程,并考虑了双向中继信道中基于Nested Lattice码的PNC方案的传输过程,以及采用计算转发(Compute-and-Forward)中继策略为通信速率带来的性能提升,然后设计了Nested Lattice码和PNC技术联合方案的具体通信过程,对16QAM调制的星座图进行了重新设计,并对此方案进行仿真分析,验证了能够进一步改善误码性能。