随着无线传感网络、车联网和无人机群的广泛应用以及无线通信技术和无线导航定位技术的蓬勃发展,基于位置信息服务的需求日益增长。位于网络中的节点既需要快速可靠地通信组网又需要实现相对准确的授时定位,通信和导航的一体化设计逐渐成为一大研究趋势。事实上,两者在工作原理和实现方法上具有相似性,有天然的融合设计基础。为了降低通导融合系统中的资源占用、增大频谱利用率、提高通信导航信号处理的鲁棒性,这对波形体制提出了新的设计要求,因此,本文考虑通信导航一体化波形设计并对提出波形进行了多方面的性能评估。同时,由于网络中节点的动态性和环境的多变性,时变衰落信道对通信质量的影响不可忽略,这对接收方法优化提出了更高要求。近年来,由于神经网络强大的非线性拟合能力,受到了越来越多通信学者的关注,研究表明其在通信物理层信号处理方面也具有巨大潜力。本文将神经网络和信道跟踪、均衡技术结合来优化接收方法,能够在复杂信道环境下,突破传统通信系统信道均衡方法的局限性,获得性能提升。具体研究工作和创新性工作包括以下两个方面:针对通信导航一体化波形设计的问题,本文通过分析传统导航定位波形的产生方式、自相关特性、频谱特性和码跟踪性能,说明了导航定位波形通过叠加更高速率的副载波可以使信号在高频处的能量增加,有助于信号码跟踪性能的提升。基于上述思路,本文提出了一种结构灵活的带有高效导频的通信导航一体化波形。该波形通过对数据通道和导频通道调制不同速率、相同周期的序列实现通信和导航定位功能的复合,若需要进一步提升定时精度,可以加调较高速率的副载波序列。针对提出波形,本文设计了多环跟踪法,将多通道不同速率的序列和副载波进行多个环路的联合跟踪,从而减小波形的码跟踪误差。仿真结果表明,提出波形相比相同等效码速率的复合二进制偏移载波(Composite Binary Offset Carrier,CBOC)调制波形具有相近的码跟踪性能和更优抗多径性能,同时只要根据应用需求合理选取通信数据通道和导航导频通道的功率,通信和导航的相互影响在可承受的范围内,一体化系统能正常运行。针对基于神经网络的信道跟踪和均衡技术,本文提出了基于深度神经网络(Deep Neural Network,DNN)判决反馈的信道跟踪和均衡系统模型。但是由于DNN模型在时变多径信道下模型泛化能力不足且收敛性欠佳,本文进一步提出了基于长短期记忆(Long Short Term Memory,LSTM)网络和DNN组合的信道均衡系统模型(DLSTM)。为了更好地利用多径信号前后向的相关性,本文提出了基于双向LSTM网络和DNN组合的信道均衡系统模型(DBi LSTM)。仿真表明,DLSTM和DBi LSTM盲均衡模型不需要发送训练序列,采用滑动窗口输入和判决反馈就能实现实时的信道跟踪和均衡。DLSTM和DBi LSTM模型虽然和递归最小二乘-判决反馈均衡(Recurrent Least Square-Decision Feedback Equalizers,RLS-DFE)相比不具备收敛性能优势,但其误码率性能明显优于RLS-DFE盲均衡。在高动态信道下,基于训练序列块状处理的MMSE信道均衡系统误码率性能退化严重,而提出模型仍能具备较强的鲁棒性。