本文在分析评价现有的边坡稳定性分析方法的基础上，综合岩土力学、弹塑性力学、非线性有限元方法、概率论与数理统计、可靠度数学、计算机科学等多学科的知识，详细研究了边坡稳定非线性有限元可靠度分析的有关方法，推导了相关公式，编制了相应的计算程序，进行了均质土坡及非均质土坡的可靠度分析。主要研究成果与结论如下：1)提出基于强度折减的边坡稳定有限元可靠度分析方法。研究表明，这种方法无需对各有限单元求单元的可靠指标，能一次性得出边坡的整体可靠指标；不需对定值法有限元分析程序作任何修改，无论是线性有限元问题还是非线性有限元问题都适用，因而方便易用，适用性广。2)基于增量初应力法及偏微分技术，研究了基于滑面应力分析的非线性有限元可靠度分析方法中边坡整体可靠指标及其对应滑面位置的求解方法，探讨有限元分析中功能函数形式对计算结果的影响。研究表明，在这种方法中，功能函数的形式对滑面可靠指标的影响很大，计算中应采用考虑滑面方向的函数形式作为功能函数，它能更好地反映滑面方向对边坡可靠指标的影响，物理概念明确，因而更为合理。3)分析比较了上述两种方法的异同点。研究表明，基于强度折减的有限元可靠度分析方法编程简单，可调用现有的定值法程序，但计算速度较慢；基于滑面应力分析的有限元可靠度分析方法编程复杂，需对现有的定值法分析程序进行较大修改，但计算速度较快，并且能得到边坡整体可靠指标对应的滑面位置。理论分析还表明，基于强度折减与基于滑面应力分析的边坡稳定非线性有限元可靠度分析方法本质相同，其计算结果的差异主要是由于这两种方法具体实现过程的不同而引起的。4)针对当前响应面法中的一些不足之处，提出了一种改进的响应面法——FORM-RSM二步法。其主要的计算分二步，一是用验算点法求解可靠指标及验算点的位置，二是在此验算点处进行响应面的拟合，并对此响应面函数用常规的可靠度分析方法求解相应的可靠指标。不同算例表明：该方法在计算精度及效率上均比常用的基于响应面迭代的响应面法有所提高。5)研究边坡有限元可靠度分析中的敏感性计算方法，推导基本变量相关时在原始空间中求解可靠指标对参数敏感性的计算公式，提出进行参数的相对敏感性分析方法及公式。研究表明：基本变量相关时在原始空间中求解可靠指标对参数敏感性的优点是无需求解转换矩阵，计算更加简单直接；对参数进行相对敏感性分析能剔除变量的单位对计算结果的干扰，因而敏感性分析的结果更具有可比性。6)研究既考虑边坡的弹塑性材料非线性又考虑其大变形几何非线性的有限元可靠度分析方法，比较大小变形情况下的相应结果。研究表明：在小变形情况下，弹性模量对边坡的安全系数及可靠指标影响很小，在边坡稳定性分析时可以忽略其影响。但是当考虑土体中发生的大变形现象时，弹性模量对边坡安全系数及可靠指标影响很大，不能忽略不计。7)为提高非线性有限元程序的收敛性，本文基于常规有限元计算中的Aitken加速收敛算法，研究了基于增量切线刚度法的随机有限元分析中相应的加速收敛方法，推导了其计算公式。计算表明：与不采用加速收敛算法的随机有限元相比较，此方法明显提高了有限元计算的收敛速度，提高了计算效率。8)研究了有限步长迭代法在边坡稳定有限元可靠度分析中的应用，分析了初始步长及步长控制系数对一阶可靠度分析中可靠指标迭代过程的影响，得出了常见的取值范围。这种方法克服了常规验算点法中可能出现的可靠指标迭代不收敛的问题。