近几十年来，科学技术在各个领域都取得了巨大成就。在航空航天、机械、建筑等领域，工程结构都在向高速化、大型化、复杂化和智能化的方向发展。这就导致正面建模分析结构的动态特性往往十分困难。由此，从反问题入手分析结构，从而深入了解结构的动态特性显得十分必要，而模态参数正是能够反映结构动态特性很重要的参数。因此，模态参数辨识一直以来受到学术界和工程界的关注。再者，在运行中的结构其参数会随着时间推移或者环境变化发生变化，比如火箭发射过程中巨大的质量消耗、导弹在高速飞行中弹翼表面经历苛刻的温度环境等，而这样的变化对结构的模态参数的影响不可忽略，由此时变模态参数分析及辨识显得十分必要。模态参数辨识方法从信号处理角度看可以归结到常见的信号处理内容中。近些年，信号处理领域的研究成果常被引入到模态参数辨识中来，比如盲源分离，引起广泛的关注并迅速成为模态参数辨识算法研究中的一个热点。另外，时变模态参数辨识方法从系统理论上又可以归结为时变参数结构系统辨识问题，即对应到本文中基于子空间跟踪的时变模态参数辨识算法。本文综合分析了模态参数辨识方法，特别是时变模态参数辨识方法的研究成果，通过理论分析和实验验证在时变模态参数辨识算法上展开研究，主要工作内容如下：1.针对目前应用于模态参数辨识的正定盲源分离算法分离得到的源信号是无序的，引入对源信号的先验知识作为约束条件得到基于独立成分分析的改进定点盲源分离算法，并应用于模态参数辨识。仿真及试验结果显示改进算法优于原算法；2.针对正定盲源分离应用于模态参数辨识中时要求采集到信号中活动模态数要等于或小于观测信号数（传感器数），且考虑到时变模态参数辨识中需要处理的非平稳随机信号，引入基于时频域信号稀疏成分分析欠定盲源分离得到一适用范围更加广泛的模态参数辨识方法。仿真及试验表明该方法既能够处理时不变模态参数辨识问题，在时变模态参数辨识上亦表现出色；3.针对基于投影递推子空间跟踪的时变模态参数辨识算法在处理大数据时容易出现数据饱，继而导致辨识算法失去跟踪模态参数的能力，引入有限长度窗改进投影递推子空间跟踪算法并应用于时变模态参数辨识中，得到一改进的基于子空间跟踪的时变模态参数辨识算法，仿真及试验验证改进算法在时变模态参数辨识上表现出色；4.通过比较经验模态分解和局部均值分解的算法过程以及综合分析改进这两种算法上的研究成果，试图在本文中厘清经验模态分解和局部均值分解之间的关系，并探讨这两种算法在时变模态参数辨识上应用的可能。