通过MTS系统、扫描电镜和光学电子显微镜等岩石力学实验研究,抽象出砂岩全应力应变实验曲线的三种典型形态,从断裂损伤角度探讨了岩石节理裂隙微观、细观和宏观破坏的机理联系。提出了圆与正方形相耦合的分形维数计算方法和相空间重构时滞判定的功率谱分析法,并应用于岩石节理裂隙分布尺度效应研究和混沌动力学评价TDS准则的建立,补充了非线性动力学研究的基础理论与方法。运用分形理论分析砂岩跨越尺度界限的微、细、宏观节理裂隙分布特征,得到了砂岩节理裂隙分布的无标度区域,为解决岩石断裂机理的尺度效应问题提供了可行途径。于无标度区域建立了定量描述岩体结构的节理裂隙分布(条数)预测模型,并应用于岩石破坏机理的离散单元法研究。通过岩石力学实验建立了混沌动力学评价岩石节理裂隙系统破坏的TDS准则数学模型,在一定程度上克服了Wolf方法判定混沌动力学指标鲁棒性较差的局限。提出岩石全应力应变曲线的二分法原则,应用混沌动力学评价TDS准则定性研究了砂岩全应力应变曲线的分段特征,运用Kolmogorov熵理论实现了岩石节理裂隙贯通与否的定量判别,并尝试应用于岩石强度准则的研究。基于断裂力学理论及能量余法建立坚硬顶板及三维顺层滑坡系统的运动方程,运用混沌动力学评价TDS准则分析运动方程的稳定性,得到了资源开采活动对坚硬顶板系统稳定性的扰动规律和三维顺层滑坡体阻尼敏感的系统效应。混沌动力学理论结合3DEC反演建模,研究坚硬顶板运动的阶段特征得出,可以控制坚硬顶板从冲击性整体运动向周期性分段运动转化,并实现对其运动状态的短时预测。将混沌动力学评价TDS准则应用于现场顺层滑坡的稳定性评价,得到阶段K熵值的升高是滑坡体稳定性状态突变时机及临界状态预测的关键,证明了从能量角度分析与预测滑坡系统运动状态是可行的。