拓扑绝缘体作为一种新发现的量子物态,具有奇异的物理性质,并在自旋电子学和量子计算等方面有着潜在的重大应用价值。拓扑绝缘体的体电子结构为有带隙的绝缘体,但表面或边界却为无带隙的金属态。拓扑绝缘体材料中表面带隙的打开是实现许多奇异现象的必要条件,而杂质元素掺杂引入铁磁序是破坏拓扑绝缘体时间反演对称性从而打开表面带隙的重要方法。例如,通过在Bi2Se3、 Bi2Te3或Sb2Te3中引入过渡金属元素(Fe或者Cr)可以实现一类最基本的破坏了时间反演对称性的二维磁性拓扑绝缘体,并且只要具备适当的温度和掺杂浓度等条件,薄膜体系就可以实现量子反常霍尔效应。最近,该理论预言已得到实验的证实。目前,已有大量的拓扑绝缘体材料被人们预言和证实。在这众多拓扑绝缘体材料中,具有较大体带隙和最简单表面Dirac能谱的Bi2Te3, Bi2Se3和Sb2Te3引起了人们广泛的关注。然而可制备的Bi2Te3, Bi2Se3和Sb2Te3中却存在着大量的本征缺陷,并且Bi2Te3的Dirac点位于表面的费米能级以下,这就大大阻碍了该类拓扑绝缘体材料中奇异物理现象的实现以及它们在器件制备中的应用。因此,如何抑制Bi2Te3, Bi2Se3和Sb2Te3的本征缺陷并实现对电子结构等的有效调控成为了该研究领域亟待解决的问题。此外,T1BiTe2(T1BiSe2)和Bi2Te2Se由于分别具有较为理想的Dirac锥和较大的体电阻也引起了人们较为广泛的关注。本文中,我们系统地研究了拓扑绝缘体材料铁磁性和表面态的调控,并针对实验上具有争议的一些问题给出了合理的解释。本论文共分为七章。第一章简要介绍了拓扑绝缘体的特征及发展历程。第二章介绍了密度泛函理论并对文中所采用的第一性原理计算软件包做了说明。第三章介绍了几何相位和d0磁性。第四章分节阐述了过渡金属元素以及2p轻元素单掺、共掺等对拓扑绝缘体材料铁磁性和表面态的调控,并讨论了量子反常霍尔效应等奇异现象在拓扑绝缘体薄膜中实现的可能性。第五章研究了T1Bi(S1-xSex)2和(Bi1-xSbx)2Te3固溶体体系中的拓扑相变和表面态调控。第六章探索研究了应力和自旋轨道耦合在拓扑晶绝缘体材料实现中的作用。第七章对本文的研究内容做了总结,并指出了拓扑绝缘体研究领域亟待解决的问题以及后续的研究计划。本文的研究内容和主要结论如下所述：(1)研究了旋转磁场中相互作用自旋1/2两粒子体系的几何相位,证明了非局域相互作用不影响态的可分离性的可能性,并给出了使该自旋1/2两粒子体系的初始分离态保持可分离性的充分必要条件,此时该相互作用自旋1/2两粒子体系的总几何相在任意时刻均等于其子体系几何相的和。(2)基于密度泛函理论,研究了C在Mg3N2两不等价N位置替位时的电子结构和自旋极化性质。研究结果表明C在两个不等价N位置均能引入1.0μB磁矩,但其电子结构却因两不等价N位置的局域几何结构和对称性不同而相差较大。进一步研究表明C掺杂Mg3N2中能够实现较为稳定的铁磁耦合。(3)研究了过渡金属元素Mn掺杂Bi2Te3的磁耦合特性及其对拓扑表面态的调控作用。研究结果表明Mn在Bi位置的替位掺杂能够在体系中引入自旋极化的隙态以及4.0μB磁矩,并且体系中足够的空穴载流子浓度是引入局域自旋磁矩的必要条件。掺杂元素Mn间的超交换作用是Mn掺杂Bi2Te3体系中形成稳定铁磁性的来源。引入的铁磁序会破换体系的时间反演对称性,并在原Dirac点位置打开带隙。(4)首次开展了2p轻元素X(X=B,C和N)对拓扑绝缘体材料V2VI3(V=Bi和Sb,VI=Se和Te)的磁耦合特性及拓扑表面态的调控作用的研究。研究结果表明X在阴离子位置的替位掺杂能够在体系中形成稳定的铁磁序并在表面Dirac点处打开带隙。掺杂的轻元素X具有足够局域化的2p轨道是X掺杂V2VI3中形成稳定的磁性基态的必要条件。足够局域化的2p轨道与体系中X-V键长息息相关,而X-V键长则主要由掺杂位置的周围环境、离子半径以及掺杂元素X与V2VI3阴离子的相对电负性强度所决定。(5)探讨了三元拓扑绝缘体材料Bi2Te2Se中实现可调表面和绝缘有质量Dirac费米子态的可能性。研究表明,O替位Bi2Te2Se (111)表面最外层的Te能够对表面进行有效调节,并实现理想的Dirac锥。Cr和O在Bi2Te2Se中Bi和Te位置共掺则不仅能使体系原Dirac点上升至体带隙,还可以在原Dirac点打开带隙,并使费米能级位于体带隙和表面带隙中,从而实现绝缘有质量Dirac费米子态。此外,Bi2Te2Se中Mn和F在Bi和Te位置共掺也可以在非理想Dirac锥的情况下实现绝缘有质量Dirac费米子态。(6)从理论上证明了拓扑绝缘体材料Bi2Te3中磁性和非磁性元素共掺是实现绝缘有质量Dirac费米子态的有效方法。M(M=Ti,V,Cr,Mn和Fe)替位Bi可在Bi2Te3(111)表面中引入垂直于平面的磁矩,在Dirac点打开带隙,但此时表面中仍有许多能带穿过费米能级。0替位(111)表面最外层的Te能够对表面进行有效调节,并使其Dirac点上移至体带隙中,从而实现理想的Dirac锥。Fe/O在Bi2Te3中的共同作用则不仅可以在Dirac点打开带隙,还可以使费米能级位于体带隙和表面带隙中,从而在Bi2Te3中实现绝缘有质量Dirac费米子态。(7)研究了三元拓扑绝缘体材料T1BiTe2和T1BiSe2中实现量子反常霍尔效应的可能性。研究结果表明具有铁磁性的拓扑绝缘体薄膜的霍尔电导在一定条件下可被量子化。在杂质元素Ti,Cr,Fe和Au中,Cr在T1和Bi位置替位掺杂均不会引入载流子,并可以实现稳定的铁磁基态,是T1BiTe2和T1BiSe2中实现量子反常霍尔效应的最理想的掺杂材料。(8)基于第一性原理计算和有效哈密顿量模型分析,从理论上研究了T1Bi(S--xSex)2固溶体从传统绝缘体到拓扑绝缘体的拓扑相变以及没有破坏时间反演对称性时表面带隙的引入。研究表明T1Bi(S1-xSex)2固溶体中自旋轨道耦合强度和晶格参数的改变是固溶体体系发生拓扑相变的根本原因,而自旋轨道耦合强度和晶格参数的改变则是由Se浓度x的变化所引起的。Dirac锥在体系是否破坏空间反演对称性时完全不同,并且空间反演对称的破坏会在原Dirac点位置打开带隙。我们的研究为最近实验[Science332,560(2011); Nat. Phys.7,840(2011)]中观察到的不同现象提供了理论解释及证明。(9)研究了固溶体(Bi1-xSbx)2Te3中绝缘的体电子态及可调节Dirac锥的实现,这对拓扑绝缘体在自旋电子学和量子计算等方面的应用具有非常重要的意义。研究结果表明,任意浓度x的(Bi1-xSbx)2Te3中均会发生能带反转,即实现了一系列非平庸的拓扑绝缘体。并且伴随着Sb浓度x的增加,狄拉克点一直向上移动直到位于体能隙内。此外,随着x的增大,(Bi1-xSbx)2Te3中的本征缺陷越来越难以形成,从而实现了具有真正绝缘体电子态的拓扑绝缘体材料。(10)以SnTe和PbTe为例系统地研究了应力及自旋轨道耦合在实现拓扑晶绝缘体材料中的作用。研究结果表明,在不考虑自旋轨道耦合作用而仅仅在应力的作用下,SnTe和PbTe中也能实现能带反转。然而,自旋轨道耦合对拓扑晶绝缘体的形成却必不可少,并且它还可以促进体系能带反转的实现。拓扑表面态的研究表明表面态性质与薄膜厚度息息相关,并且Dirac点随着厚度变化既可以位于镜像对称点也可以稍微远离镜像对称点。我们的研究结果对新的拓扑晶绝缘体的实现具有重要意义。以上研究结果阐明了杂质对拓扑绝缘体材料电子结构、自旋结构及相关性质的调控机理及作用规律,给出了引入拓扑绝缘体表面带隙以及实现量子反常霍尔效应等奇异现象的有效方法,揭示了拓扑晶绝缘体实现的条件及影响因素。我们的研究不仅能丰富人们对拓扑绝缘体材料相关性质的认识和理解,为自旋电子学等的发展提供重要的信息,而且对构建新量子态方面也具有重要的意义。