基于对大量中、外文献的分析及工程实践,认为土钉支护体系应用广泛,但其理论研究滞后于工程实践,现有的设计计算理论仍很粗糙、不完整并与工程实践存在一些矛盾之处。通过现场试验及对已有文献的现场试验资料的分析、理论研究、数值模拟就土钉支护体系中的土拱效应、滑裂面形式、作用在面层后土拱及面层板上的土压力、面层梁板及土钉的设计计算、土钉支护体系与止水帷幕组合支护等进行了系统的研究,将研究成果用于大型基坑工程设计计算,并进行施工过程中应力、应变监测,检验理论分析方法,取得了如下研究成果：(1)分析了土钉支护体系中土拱的形成条件、种类、形式及影响其尺寸和承载能力的因素,分别推导出按拱轴线形状增加的连续分布荷载、均布荷载作用情况下土拱厚度及最大应力的表达式,由此求得土拱拱脚达到极限平衡状态时的土拱拱高、拱脚水平力、竖向力。明确了土钉支护体系中土钉、面层、土体间的传力机理。建立了土钉支护体系的土拱效应原理。(2)分析了土钉支护体系作用的发挥与施工过程的关系,提出了施工节奏控制的方法。分析了土钉支护体系的滑裂面形状,钉上土拱作用使钉间土体所受竖向荷载显著减小。考虑钉上土拱的作用和施工过程的影响,提出了设计计算采用的滑裂面形式。(3)考虑最危险工况及钉上土拱的成拱过程,提出了作用在面层后土拱上的土压力分布形式及计算公式。(4)对面层梁板进行受力分析,对面层设单向连续梁、双向连续梁、只设锚座及等厚板等形式进行对比。考虑面层后土拱的作用,面层中的梁将承受土拱拱脚作用力,而面层板仅承受拱前土产生的土压力。导出了作用在面层板上的土压力计算公式,其值远小于拱后土压力。提出了面层结构的合理形式。分析了目前通常采用的平板结构出现问题的力学原因。(5)分析了土钉的受力特点,提出了土钉受力分析的结构力学模型及设计计算方法。(6)分析了土钉支护体系与止水帷幕组合支护中的土拱效应,提出了组合支护的分析方法。土钉支护体系与止水帷幕组合可用于高水位软土地区基坑支护。上述理论分析结果与现场试验吻合。按本文计算理论形成的完整设计方法进行了两项工程的设计,现场监测结果验证了理论分析。采用FLAC 3D数值模拟,土拱种类及形式与本文理论分析吻合。本论文的研究可用于顶面水平、垂直开挖的水平成层或均质岩、土基坑、边坡土钉支护体系的设计。