mGeTe·nSb2Te3伪二元(GST)化合物亦写做GeTe·Sb2Te3，是一系列窄带隙半导体。GST化合物既是性能优异的相变存储材料，又是具有量子自旋霍尔效应的拓扑绝缘体，具有非常广阔的应用前景。GST化合物具有三种固体状态:非晶态、立方结晶态和层状三方结晶态。其中，层状三方GST化合物的原子以层状紧密堆垛形式排列，是GST的高温稳定结构。层状GST化合物可以与非晶相之间实现快速的可逆相变，而且表现出拓扑绝缘体所独有的新奇量子态特征。因此，研究层状GST化合物具有重要的理论和实际意义，研究结果既可以提供对GST化合物的全面、深入理解，还能为开发出具有相变存储和量子计算能力的新型电子器件提供理论基础。　　利用基于密度泛函理论的第一性原理计算方法，本论文对层状GST伪二元化合物的晶体结构、化学键组成、电子结构特征、晶格动力学性质、热力学性质、力学性能和拓扑绝缘性质等展开了系统性的研究。本论文的研究内容主要由四部分组成:层状GST伪二元化合物的晶体结构和物理、化学性质（第三章），类范德瓦尔斯作用力对层状Ge2Sb2Te5物理、化学性质的影响（第四章），层状Ge2Sb2Te5的拓扑绝缘性质（第五章），GeTe/Sb2Te3超晶格材料的晶体结构、晶格动力学性质和拓扑绝缘性质（第六章）。　　在GST化合物晶体结构的基础上，首先研究了层状Ge3Sb2Te6的精细结构与化学键组成，发现其在能量上最稳定的原子堆垛排列方式具有最均匀的化学势分布，是最有可能的结构。阐明了层状GST化合物的Te-Te原子层间以类范德瓦尔斯的弱作用力相结合，并且这种弱结合可以用修正的Lennard-Jones势来描述。进一步的研究还发现随着GeTe组分含量的增加，GST化合物中的Te-Te类范德瓦尔斯弱相互作用力逐渐减弱。由于Te-Te类范德瓦尔斯键的存在，层状GST化合物转变到立方亚稳相或者非晶相只需要克服很小的能量势垒，这可能是GST化合物的快速相变的基础。　　利用对范德瓦尔斯作用力修正的PBE-D2方法，研究了层状Ge2Sb2Te5的精细结构、晶格动力学性质、热力学性质、电子结构和力学性质。发现PBE-D2方法能够更加准确地描述Ge2Sb2Te5的晶格常数、Te-Te键键长、声子谱和各种力学性能。但是PBE-D2方法并不能准确地描述层状Ge2Sb2Te5的电子结构，必须采用HSE06或PBE0等杂化泛函方法才可以更加准确地再现Ge2Sb2Te5的实验能量带隙。　　阐明了层状Ge2Sb2Te5的拓扑绝缘性质与其层状堆垛方式的关系，当原子堆垛方式为Te-Ge-Te-Sb-Te-Te-Sb-Te-Ge-(GST-Ⅰ)时，层状Ge2Sb2Te5是拓扑平庸的普通半导体;而当原子堆垛为Te-Sb-Te-Ge-Te-Te-Ge-Te-Sb-(GST-Ⅱ)时，层状Ge2Sb2Te5是拓扑非平庸的拓扑绝缘体。虽然GST-Ⅰ不是拓扑绝缘体，但是可以通过改变外界条件的方法来调节它的拓扑绝缘性质。在合适的外加均匀压力或者应变的作用下，GST-Ⅰ电子结构所处的量子状态会发生改变，其Z2拓扑不变量也会随之改变，GST-Ⅰ会转变为拓扑非平庸的拓扑绝缘体。在压力或者不同类型的应变下，GST-Ⅰ总共会表现出三种不同类型的金属导电性表面能带结构，分别为“单狄拉克锥型”、“Bi2Te3型”和“奇数带型”。　　对GeTe/Sb2Te3超晶格材料的精细结构、稳定性和拓扑绝缘性质展开了系统研究。发现GeTe/Sb2Te3超晶格材料是一种具有较低密度和较高能量稳定性的新材料。声子谱的计算和分析结果表明，GeTe/Sb2Te3超晶格材料在晶格动力学上是稳定的。其中，GeTe和Sb2Te3的化学计量比为2∶1的[(GeTe)2(Sb2Te3)1]超晶格材料和2∶2的[(GeTe)2(Sb2Te3)2]超晶格材料在自旋轨道耦合的作用下会发生受时间反演对称性保护的导带底与价带顶之间的电子结构特征反演，具有不为0的Z2拓扑不变量，其表面会表现出具有狄拉克锥形式的金属导电性特征。也就是说，[(GeTe)2(Sb2Te3)1]和[(GeTe)2(Sb2Te3)2]超晶格材料是强拓扑绝缘体。但是如果继续增加Sb2Te3的含量到GeTe和Sb2Te3的化学计量比为2∶4的[(GeTe)2(Sb2Te3)4]，该超晶格材料则会转变为拓扑平庸的普通半导体。