非线性随机动力学理论以非线性随机系统为研究对象,发展了一套研究系统动力学行为的概率分析方法,已经被广泛应用于通信、航空航天、机械、土木及海洋等工程实际中.然而,由于非线性随机动力学模型建模机制不同,使其结构千差万别,没有一种普适的概率分析方法去研究其动力学响应.本文的主要目的是针对两类在不同随机激励下典型非线性系统提出新颖的概率分析方法.其一是将线性随机系统中的矩Lyapunov指数方法应用于非线性随机系统,通过分析非线性随机系统的矩Lyapunov指数,从而研究其随机矩稳定性.其二是提出了 一种基于双稳压电发电系统平衡点的拟保守随机平均法,分析了非线性双稳压电发电系统的随机概率响应.在第二章中,首先建立了一类新的非线性随机系统的运动控制方程,即:高斯白噪声激励下具有非粘性阻尼结构的耦合非线性随机系统,其非粘性阻尼结构遵循指数积分形式.接着,利用坐标变换,得到了响应与角过程的标准耦合随机微分方程.然后,把矩Lyapunov指数问题转化为特征值问题,随后利用二阶摄动法导出了耦合随机系统的矩Lyapunov指数.最后,用矩Lyapunov指数方法去分析随机耦合各物理量对随机稳定性的影响.矩Lyapunov指数得到解析结果的有效性通过Monte Carlo数值方法验证.在第三章中,首先构建了非线性双稳压电发电系统的动力学模型,其外部激励是滤波高斯白噪声,这种噪声具有频率依赖的特征,比高斯白噪声更能真实地表现环境中的随机振动.接着,引进一个基于双稳系统平衡点的新变换,将非线性机电耦合双稳压电系统近似为包含依赖能量频率函数和平衡点的等效单自由度双稳系统.然后提出了一种基于双稳系统平衡点的改进的拟保守随机平均法得到了机械系统状态的平稳概率密度函数的解析表达式,并利用电压与状态变量间的关系,给出了均方电压与平均输出功率的线性关系.最后,详细分析了随机激励的激励强度和地震运动峰值频率、振动系统参数和机电耦合系数对随机双稳压电发电系统均方电压和平均输出功率的影响.基于双稳系统平衡点的改进的拟保守随机平均法得到解析结果的有效性通过Monte Carlo数值方法验证.