拓扑相具有独特的物理性质,它既保持着体绝缘性,同时又拥有无能隙的表面态或边界模,在低耗散电子学或自旋电子学领域中有着极大的应用潜力,因而引起了人们极大的研究热情。拓朴相在量子阱、三族到五族原子尺度晶体层材料和过渡金属化合物等二维体系中,主要有Z2拓扑绝缘体、量子反常霍尔效应以及量子谷霍尔效应等几种。其中量子反常霍尔效应具体表现为:体系在无外加磁场时被施加纵向的电场后能够产生量子化的横向电导。其来源为自旋轨道耦合与体系内禀磁场的共同作用。石墨烯和拓扑绝缘体因为其独特的线性狄拉克色散关系,都可作为研究量子反常霍尔效应的理想平台。不过,目前实验上还没有在石墨烯上观测到量子反常霍尔效应。而在拓扑绝缘体中,人们在目前实验上都只能于极低温度下才能成功观测到量子反常霍尔效应,无法在稍高温度或室温时将其实现,从而难以制作理想的电子或自旋电子器件。在本文中,我们的研究采用了电子型-空穴型共掺杂方法,从理论上显著地提升了基于石墨烯和拓扑绝缘体两种体系的量子反常霍尔效应的实现温度,对拓扑电子学的发展和未来器件的制作有着积极的推动作用。本论文内容共包含五章,每章的主要内容概括如下:第一章主要介绍了拓朴相中的量子反常霍尔效应,及其在各种二维体系如蜂窝状晶格体系、量子阱、其他有机或人造狄拉克材料、原子级层状材料等中各自的形成机制和理论、实验研究进展。第二章采用了第一性原理计算的方法,提出了一种新的磁性杂质掺杂方案,从理论上能够实现量子反常霍尔效应在高温下可能的实验观测。该手段即为在三维拓扑绝缘体中进行电子-空穴共掺杂。本章以矾-碘共掺的Sb2Te3为实例进行具体分析,证明了即使是在大约2%V和1%1的低掺杂浓度下,共掺后体系也能够表现出标志着量子反常霍尔效应的量子霍尔电导,且观测温度可高达50开尔文,高出了目前已有普通QAHE体系可观测温度三个数量级。这种方法在实验的实现上较为常规,因此实验上很容易进行验证。2017年,何钶等人根据类似的磁掺杂方案,从实验上成功在Cr-V共掺的(Bi,Sb)2Te3体系中实现了较高温度的量子反常霍尔效应。第三章运用第一性原理计算方法,系统性地研究了 3d过渡金属原子在石墨烯上与硼原子共掺杂的电子-空穴共掺效果。研究发现,共掺机制能够使3d过渡金属原子在石墨烯上成功形成原子级的稳定吸附,解决了一直以来石墨烯上掺杂原子容易聚集成团簇的难题。其中镍硼共掺的石墨烯体系不仅拥有长程铁磁态,还打开了拓扑非平庸能带隙并实现了量子反常霍尔效应。对其各种共掺浓度的体系进行分析,模拟得到的铁磁居里温度都能高达10开尔文,从而预言了较高温度下实验上实现量子反常霍尔效应的可能性。第四章也利用了第一性原理计算,系统性地研究5d过渡金属原子-硼原子共掺石墨烯体系的拓扑性质。结果显示,首先,电子型和空穴型掺杂物之间的静电吸引作用有效地增强了 5d过渡金属吸附原子在石墨烯上的吸附能力,并抑制了它们不利的聚集成团现象。其次,计算得到的Re-B和Pt-B共掺石墨烯体系中的Rashba劈裂能可以分别达到158和85meV,高出了已经有所报道的内禀自旋轨道耦合作用强度多个数量级。以及,Hf-B和Os-B共掺石墨烯体系能够建立长程铁磁性,并有着非零的贝利曲率,可以实现量子反常霍尔效应。第五章对全文进行了总结。