在工程结构服役过程中，不可避免地受到来自自身和外界的各方面因素影响，导致结构的抵抗能力下降，可靠度降低，进而引发安全事故，造成巨大的人员和经济财产损失，因此对已经服役的土木工程结构采用有效的手段进行结构健康监测具有重要的意义。目前，结构模态分析已经成为结构健康监测系统的核心技术之一。本文引入欠定的盲源分离理论，应用于结构模态分析，为结构健康监测中传感器数量少于结构活跃模态数量的模态参数识别问题提供了一种新的选择。本文主要的工作和研究如下:　　1、研究了基于密度峰值聚类算法的欠定盲源分离方法。首先利用短时傅里叶变换把时域的传感器信号转换到具有稀疏性的时频域，针对无法预知活跃模态数量和高阶振动模态混叠的问题，提出了一种基于密度峰值聚类的算法来识别模态振型;得到模态振型后，利用可以快速重构稀疏信号的SL0算法，重构模态坐标信号，提取各阶模态频率。　　2、研究了基于平行因子分析的欠定盲源分离方法。首先利用平滑伪维纳变换把信号转换到时频域，然后构建平行因子模型，利用平行因子分析技术识别模态振型;最后利用子空间方法重构模态坐标信号识别模态频率。　　3、通过一个四层剪切型钢框架模型验证以上两种算法的有效性与实用性。通过伪随机振动试验数据，在只布置三个传感器的条件下，两种欠定盲源分离方法都成功地识别了模态振型并且分离了模态坐标信号，说明了本文提出的方法在模态参数识别实际应用中的可行性。