第五代移动通信时代已经来临,大规模多输入多输出（Massive Multiple Input Multiple Output,Massive MIMO）是其核心的关键技术之一。与时分双工（Time Division Duplexing,TDD）系统不同,频分双工（Frequency Division Duplexing,FDD）系统的上下行信道的互易性不成立,只能通过训练-反馈方式得到信道状态信息（Channel State Information,CSI）。然而,大规模MIMO系统中,基站一般配有上百根天线,如果用传统的方式获得准确的CSI,就需要发送大量导频信号,这就会消耗大量的系统资源,降低系统效率。本文重点探讨了FDD大规模MIMO系统中,利用压缩感知（Compressive Sensing,CS）对CSI估计方案,以及利用卷积神经网络减少反馈开销的方案。其主要研究内容和成果如下:第一,在FDD大规模MIMO系统中,结合CS相关知识,提出了一种基于相互无偏基（Mutual Unbiased Bases,MUB）序列的导频设计方案。MUB序列具有互相关系数极低,序列容量大,且序列的每个元素都是恒包络等良好特性,是导频序列较好的备选方案之一。第二,提出了一种基于字典迭代的信道估计方法。该方法首先使用过完备离散傅里叶变换（Overcomplete Discrete Fourier Transform,ODFT）型字典矩阵及CS算法进行初步的信道估计,其次,选出该字典中与估计的信道信息相关性最强的部分作为新的字典矩阵,最后,根据更新的字典矩阵,再次利用CS算法进行信道信息估计。第三,针对下行信道信息反馈,提出了一种基于自动编码器的卷积神经网络Csi Con Net。该神经网络在不需要构造感知矩阵的前提下,用户端通过编码器将信道压缩成低维码字,反馈回基站端,基站端通过译码器利用低维码字恢复信道信息。与传统的CS算法相比,由于该方案反馈的是低维的码字,反馈开销减少,或者说在相同的反馈开销下,该方案的性能优于传统方案。