随着岩土工程不断加深，工程规模也越来越大，对真三轴应力状态下岩石的力学特性的研究成为岩石力学领域的热点之一。　　相对于其它类型的真三轴试验机，采用“二刚一柔”加载方式的茂木式具有成本低以及易于实现试样安装、加载对中和渗透特性测量等优点，因此应用最为广泛。然而，由于端部摩擦效应的存在，使得加载过程中试样内部应力应变不均匀，从而制约了茂木式真三轴的进一步发展。为此，本文开展了如下工作:①不同减摩措施的摩擦本构以及摩擦系数的测定。②对真三轴试验系统的变形测量方法和压力室对中方法进行简单改进，并验证其可靠性。③利用真三轴试验系统对砂岩和大理岩在不同摩擦措施下的力学行为进行系统的研究。④利用Flac3D模拟了不同摩擦措施对真三轴试验力学特性的影响。⑤基于神经网络反分析的方法，提取真三轴试验的本质应力应变关系。研究主要得到如下结论:　　(1)对大理岩和砂岩的重复性试验表明改进后的硬岩高压伺服真三轴试验系统具有很高的可重复性。　　(2)所研究的的三种减摩措施中，混合减摩措施具有低至0.002～0.004的摩擦系数，数值模拟表明，混合减摩措施对真三轴试验结果基本上没有影响。　　(3)端部摩擦对岩石真三轴的力学行为有很大影响:明显提高大理岩和砂岩的真三轴试验强度，带来较大的虚假中间主应力效应;导致岩石真三轴破坏模式的改变，随着摩擦系数的增加，破坏模式由不对称的V型破坏向较复杂的X型破坏转变;使真三轴应力应变曲线的峰后下降段变得平缓，峰后曲线形态的变化与破坏模式的改变具有一定的相关性。此外，端部摩擦对砂岩力学行为的影响大于大理岩。　　(4)数值模拟和真三轴表明，端部摩擦对低中间主应力效应的岩石产生的虚假中间主应力效应总体来说比高中间主应力效应的岩石要大。此外，无论是服从Mohr-Coulomb还是Drucker-Prager准则岩石，端部摩擦使试验的应力应变曲线表现出应变硬化，且摩擦系数越大，中间主应力越大，则应变硬化特征越明显。　　(5)基于Matlab引擎的C++ API函数和FLAC3D Fish Intrinsic C++接口，实现了Flac3D-Matlab的搭接，成功地利用神经网络本构模型预测常规三轴试验曲线。基于神经网络反分析的方法提取了岩石真三轴试验的本质应力应变关系。并进一步验证端部摩擦对真三轴试验的影响。