叠加信道估计方法由于具有高的频谱效率,得到了世界范围内专家学者的广泛关注。然而,训练序列与数据序列的叠加不可避免地引起叠加干扰,大大降低信道估计与数据检测的准确性。为消除叠加干扰,数据依赖叠加训练（Data-Dependent Superimposed Training,DDST）和数据空叠加导引（Data-NullingSuperimposed Pilot,DNSP）方法相继被提出,这些叠加方法能够完全消除数据序列对训练序列的干扰,从而有效地提高信道估计的精度。然而,在DDST和DNSP系统中,信道估计精度的提高是以丢失部分频域数据信息为代价的,从而造成数据检测时的符号错误识别问题。为缓解DDST和DNSP系统中的符号错误识别问题,一方面,可通过提高信道估计精度改善频域数据未丢失部分的检测性能;另一方面,通过联合信道估计与信号检测,协同改善信道估计精度和数据检测时的符号错误识别。本文针对以上两个方面的解决思路,进行DDST和DNSP系统的信道估计技术研究。首先,针对DDST系统,研究基于降噪处理的叠加信道估计方法。该方法首先在频域估计信道状态信息;然后将估计到的信道状态信息变换到时域,利用时域信道的稀疏特征,对估计到的信道状态信息进行降噪处理。数值仿真实验表明,相对于经典的最小二乘（Least Square,LS）信道估计方法,研究方法改善了信道估计的归一化均方误差（Normalized Mean Square Error,NMSE）性能。例如,在信噪比（Signal-to-Noise-Ratio,SNR）为10d B时,研究方法将LS的NMSE从6×10-2降低到了4×10-2。其次,针对存在硬件不完善（Hardware Imperfections,HI）的DDST系统,引入深度学习技术,研究联合模型与数据驱动的信道估计与数据检测方法,改善信道估计精度和符号错误识别。在接收端,首先采用LS估计和迫零（Zero-Forcing,ZF）均衡来提取信道估计和数据检测的初始特征。然后,在初始特征基础上,为信道估计和符号检测分别构建浅层神经网络CE-Net（Channel Estimation Net）和SD-Net（Symbol Detection Net）,从而协同增强信道估计与数据检测性能。数值仿真实验表明,相对于经典的MMSE信道估计与MMSE均衡联合的方法,研究方法在信道和噪声二阶统计量未知的情况下,有效地提高了信道估计精度并抑制了符号的错误识别。例如,当SNR为15d B时,研究方法的BER为8.4×10-2,而基于MMSE信道估计与MMSE均衡联合方法的BER为1×10-1。最后,针对基于深度学习的信道估计方法面临泛化困难的问题,研究基于迁移学习的DNSP信道估计方法。该方法首先采用LS信道估计方法提取信道的初始特征;随后,利用CNN网络增强提取到的初始特征,形成增强型信道估计;最后,利用轻量级的迁移网络解决基于深度学习信道估计方法的模型失配问题。数值仿真实验表明,当无线场景发生改变,在不使用信道与噪声二阶统计量的情况下,相对于对比基线方法,研究方法获得了信道估计精度改善,并同时解决了模型失配问题。例如,当SNR为10d B时,基于MMSE信道估计方法的NMSE为1.6×10-1,而研究方法的NMSE为2.5×10-2。