大规模多输入多输出（Multiple Input and Multiple Output,MIMO）技术作为满足未来5G及超5G系统多样化服务质量要求的重要技术之一,已被广泛研究。大规模MIMO与传统MIMO系统的不同之处在于将数百个天线封装在基站中。因此,可以利用更多的空间自由度来提高频谱效率和能量效率。但是,随着大规模MIMO系统中天线数目的不断增加,获取精确信道状态信息的难度也会逐步提升。同时,伴随着系统服务用户数的增多,导频开销也在不断增加。此外,大量天线的部署也给整个网络系统带来了额外的硬件成本。为了尽可能的降低成本,智能反射面（Intelligent Reflecting Surface,IRS）技术辅助下的大规模MIMO系统引起了广泛讨论。但是,IRS技术虽然带来了新的机遇,但也给整个无线通信系统的设计带来了全新的挑战。本论文将围绕上述存在的挑战进行分析研究。首先,针对单用户场景下基于均匀矩形阵列（Uniform Rectangular Array,URA）的大规模MIMO系统,提出了一种自适应信道估计与跟踪方法。为了降低实时跟踪信道状态信息变化的计算复杂度,提出了一种基于主子空间分析（Principal Subspace Analysis,PSA）的方法,根据接收信号的协方差矩阵对信号子空间进行估计和跟踪。然后,基于估计的信号子空间,通过经典的多重信号分类（Multiple Signal Classification,MUSIC）算法恢复信道参数,包括信道各条可分辨路径对应的到达角和信道增益。另外,为了分析该算法性能,理论推导出克拉美罗下界（Cramer-Rao lower bound,CRLB）进行评估。其次,将算法扩展至多用户场景下的信道估计,为了近一步降低计算复杂度并减少导频开销,提出了一种基于主成分分析（Principal Component Analysis,PCA）的加权信道估计算法,实现接收信号的特征矩阵估计,接着引入单用户场景下的信道参数估计算法实现各个参数的估计。然后,在此基础之上,提出了一种基于空间可分性的分组方案对不同的用户终端进行分组,通过共享导频序列来实现导频开销的降低。最后,引入IRS辅助下的大规模MIMO系统,并在基于PCA的信道估计方法的基础之上,分阶段估计了基站到用户,基站到IRS,IRS到用户之间的信道状态信息,然后利用深度神经网络（Deep Neural Networks,DNN）实现低复杂度的IRS反射系数估计,有效改善了用户端信噪比。