毫米波大规模天线系统是实现超高速率无线通信的关键技术之一。随着系统规模的不断增加及结构的日益复杂,系统中出现硬件故障的可能性显著增加,对系统性能造成严重影响。因此,需要故障诊断技术对故障器件进行检测与定位,进而通过校正补偿系统性能。在本论文中,我们针对毫米波通信系统的无线环境和连接结构特点,对大规模天线系统的硬件故障诊断方法进行研究。我们首先从经典的天线阵列故障诊断出发,设计一种无需信道状态信息（Channel State Information,CSI）和辅助测试端的盲诊断方法,为现场在线诊断提供一种实际可行的途径。之后,我们进一步考虑新型阵列连接结构,设计一种混合波束赋形（Hybrid Beamforming,HBF）系统的多器件联合故障诊断方法,解决连接结构引入的故障耦合问题。最后,我们考虑新型阵元器件,为智能反射表面（Intelligent Reflecting Surface,IRS）设计一种无源反射单元故障诊断方法,成功应对器件无源反射特性所带来的挑战。具体而言,本文的三大研究内容和主要贡献可介绍如下:（1）无需CSI和辅助测试端的天线阵列盲诊断方法。由于信道衰落和故障之间的耦合,在现场在线诊断场景中难以获取精确CSI以及部署辅助测试端从而构造诊断所需的参考信号,因此现场部署场景下的系统自诊断极为困难。为此,我们设计一种无需CSI和辅助测试端的盲诊断方法。我们注意到,在仅有少数器件出现故障的情况下,故障参数和信道矢量具有各自独有的结构特征。因此通过不同的稀疏诱导范数,可以在CSI未知的情况下对故障参数和信道矢量进行联合估计。由于摆脱了对CSI的依赖,诊断也不再需要辅助测试端进行测试符号的收发。在本项研究工作中,我们首先对系统接收信号和器件故障进行建模,并建立压缩观测模型。之后,我们将诊断问题转化为联合稀疏恢复问题,并分别基于离散傅里叶变换（Discrete Fourier Transform,DFT）字典和原子范数设计高效求解算法,最终实现故障参数和信道矢量的联合估计。此外,我们还基于USRP（Universal Software Radio Peripheral,通用软件无线电外设）平台开展实验验证。（2）HBF系统多器件联合故障诊断方法。HBF系统的交叉连接结构使得器件之间的相关性显著增强,同时也带来了独特的故障耦合问题,导致不同器件的故障难以区分。为此,我们设计一种可以对HBF系统中天线阵元、移相器、射频链路进行联合诊断的方法。我们发现,在故障稀疏性的假设下,不同器件的故障会以不同的方式影响接收信号的稀疏结构,从而为故障解耦提供了可能的途径。在本项研究工作中,我们首先考虑HBF系统中天线、移相器、射频链路的故障,建立HBF系统故障模型。之后,我们分别考虑CSI已知和未知情况下的诊断。在CSI已知的条件下,我们利用稀疏低秩矩阵分解算法分离移相器与其他器件之间的故障耦合,之后通过基于奇异值分解的后处理算法最终实现全部器件的故障解耦。在CSI未知的条件下,我们联合利用HBF的交叉连接结构和故障稀疏性提出一种迭代估计算法,可实现无CSI下移相器和射频链路的诊断,并在此基础上给出基于多次诊断的天线故障辨识方法。（3）IRS无源反射单元故障诊断方法。由于IRS特殊的无源反射特性,导致无法对每个反射单元接收的信号进行直接观测,因此为诊断带来了一定的挑战。为此,我们为IRS系统设计一种无源反射单元故障诊断方法。我们注意到,通过部署辅助收发端并设计诊断流程,IRS的故障参数可以通过级联信道进行间接观测,从而为大规模IRS提供高效的诊断途径。在本项研究工作中,我们首先对IRS中反射单元的故障进行建模,之后设计一套诊断框架并建立压缩观测模型。在此基础上,我们针对三种不同CSI可用性情况（CSI完整已知、部分已知、未知）分别设计对应的诊断方法。在CSI完整已知的情况下,我们通过构造差分测试符号将诊断问题建模为压缩感知问题,仅需远少于反射单元总数的观测次数即可实现诊断。在CSI部分已知的情况下,我们利用压缩稀疏低秩矩阵恢复算法实现信道矩阵和故障参数的联合恢复。在CSI未知的情况下,我们引入二维原子范数来诱导级联信道在连续二维傅里叶字典中的稀疏性,从而实现级联信道和故障参数的解耦。此外,我们还将诊断框架拓展至多天线接收端,从而利用多径散射提供的分集增益提升诊断性能。