隧道的稳定性问题是隧道工程最重要的问题之一，但由于理论滞后于实践，目前隧道的设计仍以工程类比法为主导，加之工程地质条件的不确定性，致使拱顶塌方事故频发，严重威胁施工人员和设备的安全。因此，根据理论计算估测隧道顶部围岩的潜在塌落面和塌落范围，明确锚杆的破坏机理，优化支护结构，对预防隧道塌方和提高隧道施工安全性有重要意义。然而，在隧道稳定性问题的研究中，传统的理论主要是Mohr-Coulomb强度理论和Hoek-Brown强度准则，其忽略了中间主剪应力的影响，属于单剪强度理论，不适用于岩体在三向应力状态下的破坏。本文在平面应变状态下，基于广义非线性统一强度理论，研究了岩体在三向应力状态下的剪切破坏，进而以广义非线性统一强度剪切破坏理论为基础，对隧道的稳定性和锚杆的破坏机理进行了研究，主要研究内容及成果如下：　　1）在极限平衡状态下，中间主应力介于最大主应力和最小主应力之间，在此条件下引入了平面应变的主应力系数，推导了岩体的广义非线性统一强度理论的剪切破坏方程，分析了中间主剪应力和中间主应力的影响系数对岩体剪切破坏的影响。广义非线性统一强度理论的剪切破坏方程不仅包含了中间主剪应力和中间主应力的影响系数，还包含了反映材料强度、脆性和剪胀性的参数，具有更广泛的适用性。　　2）在平面应变状态下，以广义非线性统一强度的剪切破坏理论为基础，基于极限分析上限定理，根据隧道顶部围岩的破坏特征和塑性理论，建立了岩质围岩中任意断面隧道顶部围岩的二维曲线形塌落机制，引入了包含速度间断线方程的目标函数，进而以该塌落机制中外力做功功率和内能耗散率相等建立方程，利用变分法求此目标函数的极值，得出了任意截面隧道顶部围岩塌落面的解析解。最后，以圆形隧道为例，分析了不同参数对岩质基础中隧道顶部塌落面的影响。　　3）在平面应变状态下，基于岩体的广义非线性统一强度的剪切破坏理论和极限分析上限定理，对锚杆的滑脱破坏进行了研究。在锚杆的滑脱破坏中，考虑了锚固体与围岩的剪胀效应，认为锚固段周围岩体必然会产生横向扩张变形，同时在不考虑锚固体自重的情况下，该破坏形态满足变形的相容条件。内部能量耗散率由锚固段周围岩体的扩张变形引起的耗散和产生于锚固体界面的薄变形层上的耗散两部分组成，而外力做功功率为极限抗拔力做功功率，基于二者的相等关系建立方程，分析不同长度锚杆的极限抗拔承载力随灌浆压力的变化规律。　　4）在平面应变状态下，基于岩体的广义非线性统一强度的剪切破坏理论和极限分析上限定理，对锚杆与岩体的整体破坏进行了研究。首先以在竖向荷载作用下锚杆周围岩体为曲线型破裂建立了锚杆破坏机制，引入包含速度间断线方程的目标函数，然后根据该破坏机制中内能耗散率和外力做功功率的相等关系建立函数关系式，并利用变分法求此目标函数的极值，得到锚杆整体破坏时速度间断线方程的解析解以及破裂面宽度，进而得到锚杆整体破坏时的极限抗拔力。最后，以圆形隧道为例，在已知锚固体钻孔直径的情况下，分析不同岩体力学参数对锚杆整体破坏时极限抗拔力的影响。