含软弱夹层层状(顺层和反倾)岩质边坡是工程建设中常见的地质体,但2008年“5.12”汶川地震前,含软弱夹层层状岩质边坡的地震响应特征和地震稳定性判识方法并未引起工程界和学术界足够的重视。2008年“5.12”汶川地震诱发了大量的层状岩质边坡失稳,此后,该类边坡的地震响应特征及稳定性判识方法才逐渐引起工程界和学术界的广泛关注。振动台模型试验作为一种最能直接揭示研究对象地震响应的研究手段,已被广泛运用于土木工程领域的抗震研究,本文基于相似理论,设计并开展了大型振动台模型试验,对含软弱夹层层状岩质边坡的地震响应及加固措施的抗震性能进行了研究,并借助希尔伯特黄变换(HHT)和边际谱理论,基于振动台模型试验数据,从能量角度出发,探究了地震作用下层状岩质边坡体内震害损伤的发展过程,进而对含软弱夹层层状岩质边坡的震害损伤模式进行了探究。基于弹性波动力学和HHT信号处理方法,考虑地震波的时间-频率-幅值特性,推导得到层状边坡瞬时地震安全系数的时频计算方法,并借助振动台试验数据对这一时频计算方法在层状岩质边坡中的应用进行了示例分析。本论文的研究成果对判识含软弱夹层层状岩质边坡的震害损伤模式、抗震加固措施的优化设计以及地震稳定性判识具有较强的指导意义。本文研究取得的主要成果和结论如下：(1)含软弱夹层层状岩质边坡大型振动台模型试验以某含软弱夹层层状(顺层和反倾)岩质边坡为原型,设计并制作了顺层和反倾两个振动台试验模型,利用按照相似关系压缩处理后的El Centro地震波和汶川地震清平波对试验模型进行地震激励,对地震作用下含软弱夹层顺层和反倾岩质边坡的加速度响应、坡面位移响应和坡体频谱响应特性进行了分析,并探究了软弱夹层含水状态对边坡加速度、位移、频谱响应的影响特征。(2)基于传递函数的层状岩质边坡地震动力特性参数计算及频域分析方法对含软弱夹层层状岩质边坡的两类传递函数(相对传递函数和绝对传递函数)进行了对比分析,介绍了利用传递函数计算含软弱夹层层状岩质边坡动力特征参数(自振频率、阻尼比、振型)的方法,并对含软弱夹层顺层岩质边坡和反倾岩质边坡的动力特征参数进行了对比分析；基于传递函数,提出了含软弱夹层层状岩质边坡频域地震响应的估算方法。(3)基于HHT和边际谱的层状岩质边坡震害损伤模式能量判识方法研究基于振动台试验中实测的加速度时程,借助信号处理领域的希尔伯特黄变换(HHT)和表征地震波能量幅值大小的边际谱概念,通过分析地震波在边坡坡体内部传递过程中的能量变化,探究地震波作用下坡体内部震害损伤的发展过程,结合振动台试验中的试验现象和坡面位移监测数据,对地震作用下含软弱夹层层状岩质边坡的震损发展过程及破坏模式进行了研究,并对含软弱夹层顺层岩质边坡和反倾岩质边坡的地震破坏模型进行了对比分析。(4)含软弱夹层层状岩质边坡的抗震加固措施研究在总结汶川地震中锚固结构和抗滑桩震损情况的基础上,对含软弱夹层顺层和反倾岩质边坡采用坡脚抗滑桩+坡面预应力锚索+锚杆的综合加固措施进行加固,试验中利用El Centro地震波和汶川地震清平波对试验模型进行地震激励,对加固坡体的加速度响应、坡面位移响应以及预应力锚索轴力响应特征进行了分析。(5)层状岩质边坡瞬时地震安全系数的时频计算方法基于弹性波动理论和希尔伯特-黄变换信号处理方法,在时频联合域内将地震波的时间-频率-幅值三要素进行分离,建立考虑上述地震波三要素的瞬时地震安全系数时频计算方法,并以振动台试验中某一测点的实测数据为例,计算得到汶川地震清平波第一强震段激励下顺层边坡和反倾边坡测点附近层面的瞬时地震安全系数时程。