大规模多输入多输出（Multi-Input Multi-Output,MIMO）通信系统是第5代(5^th Generation,5G)移动通信关键技术之一。使用大量天线为系统提供了更高的频谱效率和能量效率,同时也极大增加了获取信道状态信息（Channel State Information,CSI）的难度。尤其在目前广泛使用的频分双工（Frequency Division Duplex,FDD）制式下,由于上下行信道不具备互易性,必须通过反馈的方式获取下行CSI,研究适用于大规模MIMO系统的有限信道反馈方案成为重点解决的难题。近年来,以深度学习（Deep Learning,DL）为代表的人工智能技术蓬勃发展,迅速与各行各业深度融合,并取得了瞩目的成果。DL技术在通信领域的应用推动了智能通信的兴起,为解决大规模MIMO系统信道反馈难题提供了新思路。本文从智能通信出发,围绕基于DL的FDD大规模MIMO系统信道反馈关键技术展开研究。首先,本文研究面向无线通信物理层的智能通信技术。调研了DL三种经典网络架构:全连接神经网络、卷积神经网络和循环神经网络的基本结构和特性。研究了DL在无线通信系统各模块中的应用,包括调制识别、信道译码、信道估计与信号检测等。进一步探索了基于DL自动编码器的一种新型端到端通信系统架构,及其在MIMO场景和多用户场景中的应用。接着,本文研究基于DL的FDD大规模MIMO通信系统时变信道反馈算法。建立了多天线基站（Base Station,BS）和单天线用户设备（User Equipment,UE）通信的正交频分复用（Orthogonal Frequency-Domain Multiplexing,OFDM）系统模型,分析了时变信道的CSI矩阵在角度时延域的稀疏特性和在相干时间内的相关特性。设计了利用上述特性实现信道压缩、反馈和重建的DL网络CsiNet-LSTM,并提出了网络训练数据集的生成方案,描述了该架构下的训练方案、性能指标、超参数设置等。比较了提出的算法与代表目前技术发展水平的压缩感知（Compressive Sensing,CS）系列算法和DL算法CsiNet在不同通信场景、不同压缩率下重建的最小均方误差（Normalized Mean-Squared Error,NMSE）、余弦相似度和时间复杂度,分析了BS天线数对CsiNet-LSTM性能的影响情况。仿真结果表明,CsiNet-LSTM在极低的时间复杂度下显著提升了重建精度,改善了对压缩率的鲁棒性,具有实时性和可行性。最后,本文研究上行信道辅助的FDD大规模MIMO通信系统时变信道反馈方法。建立了FDD制式下,BS和UE全双工通信的OFDM系统模型,分析了上下行信道具有相关性的原因,说明了上行信道辅助信道反馈的可行性,并相应设计了UA-CsiConvLSTM网络架构。提出了该网络训练数据集的生成方案,并阐述了训练方案、性能指标和超参数设置等。仿真比较了UA-CsiConvLSTM与CsiNet-LSTM重建的NMSE、余弦相似度性能和参数复杂度。结果表明,UA-CsiConvLSTM在极大减少了参数量的前提下,在所有场景中均提升了重建性能,说明了上行辅助信道反馈的可行性和实用性。