智能通信作为未来通信技术发展的主流研究方向之一,在5G（5th Generation Mobile Communication Systems）加速普及的当下,具有重要的研究价值。智能通信引入人工智能（Artificial Intelligence,AI）技术解决通信难题,例如在物理层的信道估计、信号检测与信道译码等研究问题中,AI辅助的算法设计能够达到甚至超越传统算法性能,展示出巨大研究价值。智能通信在物理层的应用中,常与多输入多输出（Multiple-Input Multiple-Output,MIMO）及正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）技术结合,从而利用AI强大的建模和优化能力,同时也充分发挥MIMO-OFDM技术在频谱效率、抗干扰能力等方面的突出优势,相关研究已成为智能通信领域的重点议题。本论文面向AI辅助的MIMO-OFDM接收机设计展开研究。首先,本论文深入学习MIMO-OFDM系统的接收算法,以信道估计和信号检测为重点进行传统算法以及AI辅助算法的研究。在对经典接收算法的调研中,以信道估计、信号检测为重点研究对象详细介绍,包含四种接收算法在MIMO-OFDM系统的实现过程,同时简要介绍其他常见的接收算法。在对典型机器学习算法和常见的神经网络模型的研究中,按照不同设计理念对AI在通信领域的研究应用分别进行阐述,其中模型驱动的神经网络设计在性能表现和网络训练成本方面表现优异。在此基础上,侧重分析AI辅助信道估计和信号检测的研究案例,阐释利用AI提升接收算法的性能表现的具体方法。通过对上述研究案例的分析,展示AI在接收机研究中的巨大潜能,为AI辅助的MIMO-OFDM接收机设计提供了坚实的理论基础。其次,本论文针对采用稀疏正交导频的MIMO-OFDM系统信道估计问题提出三种AI辅助信道估计神经网络,并对所设计网络的估计性能、复杂度与鲁棒性等进行深入探索。在阐述常见信道估计插值算法和采用稀疏正交导频的系统模型后,以插值算法和图像超分辨原理为基础提出三种新型的信道估计网络:SI-Net、DI-Net和SDE-Net。SI-Net以频域插值算法为基础,是简单的单层全连接神经网络,该网络学习的目标是获取最优的插值系数。DI-Net以DFT插值算法为基础,由串联的时域网络、频域网络组成,该网络对原DFT插值算法进行改造以提升信道估计性能。SDE-Net以图像超分辨原理为基础,将超分辨研究问题类比至OFDM系统的信道估计问题,并加入额外的去噪神经网络以提升信道估计性能。通过仿真实验探究提出的信道估计神经网络相比于传统信道估计方法的性能优势,同时对网络的复杂度进行分析从而探究其部署在实际通信系统中的可行性,并针对信噪比水平、信道模型变化的场景探究三种信道估计网络的鲁棒性表现。仿真结果表明,所提出的三种新型信道估计网络在原有算法基础上均有性能提升,其中SDE-Net表现出最优的鲁棒性。最后,本论文针对所提信道估计网络设计并实现接收机原型验证系统,包含对软硬件设计与具体实现细节的详细阐述,在多场景下进行OTA测试并对实验结果进行对比分析。为实现高效、灵活的开发过程,系统采用的软件无线电设备具有丰富的I/O接口、高性能射频通道以及高精度的模数转换器,能够承载基带过程的全流程开发;多核服务器是系统的算力中心,在其上部署包含信道估计神经网络、定时同步算法、信号均衡算法与解映射算法等接收机模块。在此基础上,分别针对AI接收机的离线解调和实时解调两项任务设计并实现两组原型验证系统,详尽阐释系统的设计与实现过程,包括UDP传输方案设计、服务器侧多线程设计与解调算法的实现等,通过多场景的空口实测对本论文提出的信道估计神经网络的性能进行检验,验证所提算法的先进性。