根据近年来模态分析应用领域的发展方向,以实际模态试验需要外场测试和结构处工作状态为背景,研究测试数据受随机噪声和谐波成分干扰下的频域模态参数识别算法以及软件实现。系统地研究了多输入多输出(Multiple Input Multiple Output,MIMO)系统振动响应数值仿真的数值积分法、状态空间法、频响函数法和数字滤波法,并针对原有方法的不足提出了相应的改进算法,给出了各仿真方法的计算效率、计算精度和适用条件,为振动信号处理、模态参数识别等新方法的研究提供精确且可靠的数值验证基础。针对随机测量噪声的干扰,提出了改进的输入\输出谱驱动的模态参数识别方法和基于频响函数的快速极大似然估计算法,通过对最小二乘法识别结果的优化,提高阻尼参数的识别精度。针对随机噪声参与系统输入的情况,给出了采用噪声响应互谱的Hilbert变换函数扩充系统频响函数的方法,提高了模态参数识别结果的可靠性。在试验模态分析中,提出了谐波重构和多振型加权两种消除频响函数中谐波成分的方法,前者是根据脉冲响应的衰减特性,通过最小二乘拟合出采样时间内脉冲响应中的谐波成分,后者则是对复模态因子参数识别算法的改进,采用多振型矩阵和参与向量组成矩阵的伪逆加权计算增强频响函数,解决了传统方法中结构频率与近频谐波分离不彻底的问题。深入研究了运行状态模态中的谐波检测与去除技术,推导出了谐波信号和随机信号的高阶累积量的理论值,提出了谱方差的概念并给出了采用谱方差检测谐波成分的计算公式,阐述了相位同步平均法去除谐波成分的理论依据和实现过程,修改了频域空间域参数识别算法中增强功率谱的计算方式,在其计算过程中引入了谐波检测与去除步骤。采用C#与Matlab联合编程,实现了环境噪声影响下的模态参数识别软件N-SMA的开发。通过三组工程实测算例分别验证了随机噪声和谐波成分影响下软件识别模态参数的可靠性。