高压作为一种极端的物理条件,能够有效得调控层间相互作用,甚至是成键方式,从而改变材料的能带结构和晶体结构,使材料表现出异于常压的物理、化学性质。这对深入理解压力诱导金属化、超导电性以及拓扑结构变化等现象的机理具有重要意义。层状材料,例如石墨烯、MoS2、氮化硼等,具有独特的电学、光学、力学、热学等性质,在多个领域具有广阔的应用前景。因此,层状材料的高压研究是凝聚态物理领域的前沿热点课题。拓扑节线半金属ZrSiSe、ZrSiTe和铁磁性材料Cr2Ge2Te6是两类具有代表性的层状材料,探索其高压下的结构与物性将进一步深化对层状材料的认识,有望拓展层状拓扑节线半金属和铁磁性材料的应用前景。本文聚焦于层状材料在高压下的结构和性质转变,利用多种高压测试手段,结合第一性原理计算,系统地研究了层状拓扑节线半金属ZrSiSe、ZrSiTe和铁磁性材料Cr2Ge2Te6在高压下的结构和电输运性质,探索了其结构与物性的联系。主要研究结果如下:1、利用高压X射线衍射、拉曼、红外反射和电输运测试系统地研究了层状拓扑节线半金属ZrSiSe结构和性质的转变。研究发现,ZrSiSe在压力的作用下相继经历了等结构相变和四方向正交转变的结构相变。在6 GPa左右,晶体结构没有发生明显的变化,但晶格常数的比值（c/a）和Raman振动峰的峰位移动出现了不连续的变化,体系发生了等结构相变。在此过程中,层间相互作用发挥了重要的作用。进一步加压至13 GPa,由于晶格畸变和堆垛层错导致晶体结构从四方相转变为正交相的结构。红外反射率和电阻在相似压力点的异常变化进一步证明了等结构相变和结构相变的发生。理论计算发现压力可以调节能带结构中沿着Γ-X路径费米能级附近的能带交叉点的位置,进而导致等结构相变。这些结果进一步深化了对拓扑节线半金属高压行为的认知。2、利用高压低温电输运测量和同步辐射X射线衍射技术研究了层状拓扑节线半金属ZrSiTe的晶体结构和超导电性的对应关系。研究结果表明,在6.9 GPa,ZrSiTe发生超导转变,且初始的超导转变温度Tc为2.9 K。进一步加压,Tc随着压力的增加呈现单调增加趋势。高压X射线衍射研究和密度泛函理论计算的结果表明ZrSiTe没有发生结构相变,但在～4和～7 GPa下发生了两次Lifshitz相变,同时,费米面在相似的压力点发生了显著的变化。霍尔效应进一步证明了Lifshitz相变伴随着空穴型主导到电子型主导的载流子类型的转变以及载流子浓度的变化,这有利于超导电性的出现。由于晶体对称性并没有被破坏,这意味着超导与拓扑表面态可能共存,进而实现Majorana费米子,高压ZrSiTe可以被视为拓扑超导体的候选者。本工作的发现为拓扑超导体提供了研究平台,并拓展了对拓扑节线半金属高压行为的认知。3、对层状铁磁性材料Cr2Ge2Te6晶体结构和性质的高压研究发现。在压力的作用下,Cr2Ge2Te6由于层间相互作用的增强经历了从层状到非层状结构的等结构相变。红外反射和电输运研究显示在类似的压力点发生了半导体到金属的转变,揭示了等结构相变的发生伴随着金属化的现象。随着压力的进一步增加,晶格畸变导致初始的六方结构向一个亚稳态转变,并在更高压力下转变为非晶相。理论计算发现了在压力的作用下导带和价带发生重叠导致带隙闭合,这表明费米面周围电子能带结构的变化导致压力引起的金属化现象。这些结果表明压力对Cr2Ge2Te6的结构和性质的调控有极大的影响,并为了解层状铁磁材料的高压结构与物性提供了实验依据。