目前,层状材料作为一种二维或准二维的低维材料,具有厚度依赖性、特殊的能带结构和易调控的物理性能,会呈现出许多新奇的物理行为,因此成为凝聚态物理领域的一个研究热点。基于第一原理方法,本论文系统地研究了低维层状拓扑和超导类材料的拓扑相变、原子结构、电子态性质和力学特性等性质。拓扑绝缘体是最近发现的一种全新的物质态,因此材料拓扑性质的研究受到人们广泛的关注。薄膜材料随层厚变化的表面耦合效应和量子限制效应对于体系拓扑电子性质具有调制作用,基于第一原理计算,我们发现单质锑（111）薄膜随着厚度的变化具有丰富的拓扑电子相,在7.8nm（22层厚的薄膜）以上,薄膜同体态具有相同的拓扑半金属性质;在22层以下,薄膜则转变为三维的拓扑绝缘体;在2.7nm（8层厚的薄膜）以下,薄膜具有非平庸的二维量子自旋霍尔电子态;而在1nm（3层厚的薄膜）则变为拓扑平庸的半导体,我们同时发现薄膜具有良好的力学稳定性和微弱的电声耦合特性。我们对于锑（111）薄膜的发现为实验研究拓扑电子性质的相变和拓扑超导性质提供了理想的测试平台。通过STM实验测量发现SrTiO₃衬底上生长的高质量的单层FeSe薄膜超导转变温度达到77K,有趣的结果引起了科学家深入的研究。同时STM测量给出了单层FeSe薄膜的原子尺度的形貌特征,通过第一原理的STM理论模拟发现单层FeSe薄膜的微观形貌特征主要受到Fe位缺陷和Fe原子反铁磁自旋排布两种主要因素的影响,这两种效应相互作用会导致出现实验上观测到的电子态二聚体微观形貌,通过分析二聚体的成因可以给出体系的磁基态的特征。这种方法将为理论上研究和分析铁基超导薄膜原子尺度微观结构现象和磁基态特征提供新思路。随着社会科技水平的提高,特殊功能材料的设计与开发对于前沿科学领域的应用具有十分重要的意义。因此通过材料计算科学,寻找设计一类新的功能材料,使材料具有良好的力学稳定性、动力学稳定性和电声耦合特性,可以为实验合成新材料提供重要的参考。通过第一原理计算,我们发现一种新的材料TcB₃,这种三角晶系的TcB₃-b材料不仅力学稳定性良好而且维氏硬度可以达到43GPa,同时通过研究该材料的电声耦合特性,利用修正的McMillan公式估计它的超导转变温度Tc为16～20K,预示着该材料是一种潜在的超硬超导材料。