用有限元数值方法分析边坡的稳定性时，如何判断边坡是否达到临界破坏状态是一个关键问题。这个问题主要由所定义的失稳判据决定的，不同的失稳判据下所得的边坡临界破坏状态不尽相同，相应得到的稳定安全系数值和潜在滑动面位置也不尽相同。本文利用ANSYS数值分析软件，结合有限元的强度折减理论，针对三种不同类型的岩质边坡，侧重探讨基于迭代收敛判据、突变性判据和塑性区贯通判据等三种不同的失稳判据下边坡稳定安全系数的确定问题，并结合算例与采用其它稳定性分析方法所得的结果进行了对比分析。在基于突变性判据时，讨论了采用单元最大应变能、最大塑性应变以及特征点的变形等与强度折减系数关系曲线的突变点来确定边坡稳定安全系数，同时探讨了利用塑性区贯通、边坡剪应变速率、单元塑性应变能以及边坡塑性应变矢量分布等不同方法来确定边坡的临界滑动面。对影响边坡稳定性的多种因素进行了敏感性分析。结合具体算例，主要讨论了计算模型(包括计算范围、边界条件、网格划分密度等)、屈服准则、材料参数的折减方式、流动法则以及失稳判据等对边坡的稳定安全系数和潜在滑动面的影响，在此基础上提出了一些参考建议。结合某水电站边坡工程实例，讨论了三种不同失稳判据下边坡的稳定安全系数和潜在滑动面形状、位置的确定问题，根据工程实际提出了合理的开挖、支护等治理措施。同时，将所得结果与极限平衡法和干扰能量法的结果进行对比分析，验证了不同失稳判据下边坡的稳定安全系数和潜在滑动面确定方法的可行性，为今后该方法在边坡稳定分析中更好的应用提供了依据。