拓扑绝缘体具有非平庸的电子结构,并展现诸多新奇的量子效应,已成为最近十多年来凝聚态物理研究的重要前沿方向之一。构建拓扑绝缘体/磁性绝缘体异质结,原则上可以在不引入额外缺陷或杂质的情况下,通过磁近邻效应在拓扑绝缘体表面均匀诱导出磁有序,从而使拓扑绝缘体表面态打开均一的能隙,提供了在较高温度观测量子反常霍尔效应和拓扑磁电效应的一个可能途径。然而,由于能与拓扑绝缘体晶格相匹配并具有垂直磁各向异性的铁磁性绝缘体种类稀少,且拓扑绝缘体与磁性绝缘体界面处往往存在复杂的界面效应,在实验上很难获取具有强界面磁近邻效应的拓扑绝缘体/磁性绝缘体异质结。有研究指出,反铁磁绝缘体Mn Se与Bi2Se3家族的三维拓扑绝缘体之间有较好晶格匹配度与生长条件兼容性,从而有望在拓扑绝缘体表面态中打开较大的能隙,从而为最终实现量子反常霍尔效应和操控马约拉纳（Majorana）零能模探索出一条新的可能途径。本论文中,我们利用分子束外延技术制备了反铁磁绝缘体Mn Se与拓扑绝缘体（Bi,Sb）2Te3异质结,并对其结构和电子输运性质进行了系统的研究。主要研究成果总结如下:1.在Sr Ti O3（111）衬底上成功制备出了具有原子级平整锐利界面的Mn Se/（Bi,Sb）2Te3（Mn Se/BST）异质结,并在Mn Se/BST异质结中观测到显著的反常霍尔效应,具体如下:a.反常霍尔效应曲线在低温下具有显著的磁滞特征,高磁场下反常霍尔电导随栅压的增大而单调递增,最大值可达0.12 e2/h。b.观测到源自BST层下表面（不与Mn Se接触）的单通道反弱局域化效应。随着背栅电压增大,BST层的上下表面逐渐脱耦合,反弱局域化效应变得愈加显著。c.基于对磁电阻和反常霍尔效应的分析,我们发现Mn Se/BST界面处会发生电荷转移,造成对BST上表面的空穴掺杂。基于此,我们提出了Mn Se/BST异质结中BST的能带-栅压演化图景。d.Mn Se/BST异质结在强磁场中呈现出线性磁电阻,并在体载流子参与输运时表现得更加显著,因此不能使用Abrikosov的线性色散模型进行解释。2.系统研究了Mn Se/BST异质结中的面内各向异性磁电阻（Anisotropic magnetoresistance,AMR）和平面霍尔效应（Planar Hall Effect,PHE）,并基于实验数据讨论了其可能成因。具体如下:a.在Mn Se/BST异质结中,我们观测到可持续至250 K以上的面内AMR。发现在低于10 K的低温下AMR具有显著的磁滞特征,其矫顽场不依赖于栅压。相比反常霍尔效应,AMR的观测对Mn Se/BST异质结界面质量的要求更低。b.Mn Se/BST异质结的PHE幅值的温度依赖关系具有非单调性,不同于纯BST薄膜中PHE幅值随温度升高而单调递减的特征。因此,异质结中的AMR/PHE效应很可能主要来源于界面的磁近邻效应。c.在10~50 K的温度区间内,Mn Se/BST异质结的AMR随角度的变化存在π周期与2π周期信号叠加导致的拍频。综上所述,我们的研究工作在实验上证实了Mn Se/（Bi,Sb）2Te3异质结具有较强的磁近邻效应,深化了对拓扑绝缘体与反铁磁绝缘体间界面相互作用的认识,为进一步探索拓扑绝缘子的自旋相关量子性质及其潜在的自旋电子学应用奠定了基础。