本文对逆算符方法及其在机械系统非线性动力分析中的应用进行了研究。主要研究工作如下： 利用Adomian的分解方法的思想，把机械系统中最一般的动力学模型转化为一阶标准型微分方程组，以形式上的精确解的表达式为基础构造了求解机械系统非线性模型近似解析解的逆算符方法（IOM）；针对机械系统非线性模型的特点，提出了直接处理高阶方程（组）的不降阶逆算符方法；证明了该方法的收敛性。 在所建立的IOM的基础上，首次提出了基于IOM的符号-数值方法（S-N方法），建立了适于计算的IOM-1方法及改进的IOM-1法。而精细积分法则成为IOM-1法的一种特殊情况。 应用IOM-1法研究了齿轮系统的间隙非线性振动，表明所研究的系统随着某一参数的变化，可通过倍周期分岔最终形成混沌响应；研究了非线性凸轮-从动件系统对不同的输入运动的动态响应，表明系统中的弹簧非线性对系统的输出运动特性无大的影响；给出了求解柔体系统动力学方程的S-N方法，算例表明，IOM-1法是求解非线性刚性方程的高精度数值方法。 在对方程进行预处理的基础上，研究了具有非线性阻尼的自振系统的周期解，无阻尼Duffing方程的周期解及van der Pol方程的周期解，应用逆算符方法求出了其近似解析解的表达式。