根据现场情况调查，目前我国大部分锚杆支护的层状顶板煤巷每年均发生失稳冒顶事故3~8次，经常造成人员伤亡。本文采用现场调查、理论分析、数值模拟实验和实验室相似模拟实验等综合研究的方法，对煤巷层状顶板锚固体的失稳模式、失稳影响因素及波导特性进行了深入系统的研究。根据锚杆支护的层状顶板的基本特征，利用弹性力学“薄板”理论和组合梁理论建立了力学模型，分析了顶板失稳的主要影响因素。通过正交设计实验方法，将煤巷层状顶板失稳的主要影响因素进行优化组合，并借助于数值模拟软件UDEC对组合方案进行数值模拟，以模拟结果为依据，分析了顶板失稳影响因素的敏感性，将组合方案分为四类顶板，确定了各影响因素在每一类顶板中的可能的组合情况。选取两个优化组合方案在相似模拟实验室制作了两架相似模拟实验模型，分别研究了两架模型的巷道围岩应力、顶板位移和裂隙的演化规律。针对组合方案的数值模拟和相似模拟实验，利用三维柱坐标系下非均匀杆体的波动方程和Abaqus软件，对煤巷层状顶板锚固体的波导特性进行理论推导和数值模拟研究，得出不同锚固剂密实度情况下，应力波在锚杆内部的传导特征和加速度变化。为实际生产中锚杆支护的层状顶板煤巷失稳特征和锚固体的无损检测提供了理论指导。