如何高效利用有限的频谱资源来应对网络传输需求的爆炸性增长已然成为过去几十年通信与信号处理研究的热点。随着诸如物联网以及机器间通信的出现,传统处于脱机状态的设备通过传感器的配备可以传输数据,从而进一步驱动了网络对容量的需求。为了满足这些应用需求,同时为提升现存无线网络环境的吞吐量,大量的新技术应运而生。其中,大规模MIMO是一种候选的可行技术。大规模MIO技术可以很大程度上提升网络的频谱效率和能量效率。同时,在大规模MIMO系统中,在墙面部署大规模智能反射表面（LIM）前景广阔,吸引了众多学者的研究。LIM未部署任何功率放大器和信号处理单元,而提供了一种直接转发入射信号的传输可能性。其主要是通过设计每一个反射单元的相位达到对入射信号控制的目的。然而,无论大规模MIMO系统中是否部署LIM,大规模MIMO系统的传输需要在发射端获取精准的信道信息。信道估计的开销与发送端天线数成正比,从而在大规模MIMO系统信道估计中,传统的信道估计将会引入极大的开销。在时分双工大规模MIMO系统中,信道估计可以通过信道互易性避免巨额开销。然而,在频分双工系统中,由于巨大信道估计开销,使得下行信道估计甚至对于静态信道估计变得极具挑战性。此外,对于LIM辅助的大规模MIMO系统信道估计,需要LIM具备额外的信号处理能力,从而导致了更高的成本和功率消耗。首先,本文针对时变大规模MIMO信道频分复用（FDD）系统,提出了低开销的信道学习,跟踪以及监控机制。具体而言,本文利用了信道的公共空间稀疏性和时间相关性,开发了低开销估计方案。首先,通过采用虚拟信道表征以及将信道时间相关性建模为自回归过程,将时变大规模MIMO信道建模成了一个稀疏信号模型。然后,提出了基于最大化期望（EM）的稀疏贝叶斯学习方法来求解信道的模型参数。为实现不同模型参数的后验,在预测阶段采用了近似的消息传递方法（AMP）。此外,采用了约减维度的卡尔曼滤波来追踪下行信道。为监测到模型参数变化从而开始重学习过程,提出了基于贝叶斯RCRB的监测方法。最后,进行了仿真实验,证明了本文所提算法的性能。其次,本文提出了智能超表面（LIM）辅助的大规模MIMO级联信道估计方法,该信道由发射机-LIM信道和LIM-接收机信道级联而成。其中,发射机配备大规模MIMO天线,同时假设智能超表面没有信号处理能力。利用信道的稀疏性以及LIM的可编程性,本文将LIM-发射机与LIM-接收机间的信道检测问题建模成组合的压缩感知和自校准问题,提出了两阶段算法,并且使用向量近似消息传递（VAMP）和自适应VAMP分别处理处理压缩感知问题和自校准问题。最后,通过数值仿真验证了所提算法的性能。