拓扑绝缘体(Topological insulator,TI)因其特殊的表面态性质,最近在材料科学领域和凝聚态学科领域掀起了新的研究热潮。TI是一种全新的量子物质态,完全不同于传统意义上的金属和绝缘体,这种物质的体电子态是有能隙的绝缘体,表面态则是无能隙的金属态,并且表面态的电子自旋方向相反。这种表面态是由体电子态的拓扑性质决定,受时间反演对称保护,不易受到体系中缺陷和杂质的影响。这样,电子就能有序的通过在TI的通道,彼此之间就没有碰撞,也没有能量耗散。因而,无论是在基础研究还是在量子计算机和自旋电子器件领域都具有巨大的科学价值。结合理论计算和实验工作,人们很快就发现了以Bi2Se3、Bi2Te3和Sb2Te3等为代表3D TI。本论文选取Bi2Se3作为研究对象,主要基于其有确定的化学配比,易合成纯化学相及其化学成分毒性不强；其次,它的表面态只存在一个狄拉克点(Dirac Point,DP),是最接近理想状态的强拓扑绝缘体；第三,该材料的能隙非常大,未来有可能实现室温低能耗的自旋电子器件。同时,Bi2Se3也属于传统的热电材料已积累了大量的基础研究数据。然而,实际上制备出的Bi2Se3单晶样品并不是真正意义上的TI。体系中存在较多的Se空位和Bise反位缺陷,导致整个体系呈现重电子掺杂,从而使得其费米能级不是位于能隙之间。人们已经想到了利用掺杂来改善其重电子掺杂背景,以期使得其费米能级能够被调制到体能隙之中,甚至恰好位于DP处。理论预言指出：TI的表面态由于受时间反演对称保护,不容易受到非磁性杂质的影响；而磁性元素掺杂可能会使得表面态打开一个能隙,出现一些奇特的物理效应。故本论文中分别采用了非磁性元素(Ag、Ga、 Zn、K、Mg、I、Nb、Cu等)和磁性元素(Fe、Mn)对其进行掺杂改性研究。最后创新性的提出了通过粘结剥离法制备TI/Mn基钙钛矿结构氧化物的复合结构,直接在Bi2Se3表面上引入磁性结构,来研究对其性能和表面态的调控作用。全文主要包括以下几部分：探索了拓扑绝缘体Bi2Se3的制备方法,对比制备工艺条件对其电输运性质的影响,为全文中制备Bi2Se3单晶奠定了基础。样品在过长保温时间会导致Si可能与Se反应,过快和过慢的单晶生长速率都会导至体系中的载流子增加,最佳制备工艺是保温时间为5h,降温速率为3.8℃/h。同时Bi2Se3单晶本身呈金属导电行为,载流子浓度约为1019cm-3；磁化率曲线(M-乃显示其是一种抗磁性材料,磁化强度约为-8.2×10-5emu/mol。研究发现Ag掺杂和Ag插入时,样品都能获得较好的单晶质量。Ag能够占据Bi2Se3不同的晶体学位置。Ag取代Bi时,晶格参数随着掺杂量增加而具有下降趋势；Ag插入原子层(QL)之间时,晶格参数随着插入量增加而具有上升的趋势。在Bi2Se3中引入Ag后,样品的电阻率增大,但掺杂没有改变电阻率温度曲线(ρ-T)变化趋势,而Ag插入样品的低温电阻率反而升高。外加磁场下,Ag插入样品的磁电阻温度曲线(MR-T)在低温下具有下降趋势,可能由于Ag插入样品位于QL之间时,能够直接影响表面态的电子传输行为,从而导致低温电阻率升高。Ga掺杂Bi2Se3时,当x<0.05时,单晶样品的台阶光滑平整,当x>0.05时,单晶样品在层与层之间出现一些纳米颗粒以及纳米棒状的缺陷。在Ga掺杂含量x<0.05中,样品的霍尔电阻和迁移率的散射机制不变,高含量样品的迁移率出现波动。Ga掺杂后,样品电阻率依次变大。外加磁场下,ρ-T变化趋势相同；随着Ga掺杂含量的增大,磁电阻由正变为负,绝对值也依次增大。这种反常的MR-T可能与体系中纳米颗粒和纳米棒状出现有关。研究了一系列其它非磁性元素掺杂对Bi2Se3的影响。因K和Zn原子易与Se反应,未能成功制得单晶样品。Nb和Ir掺杂未能有效进入晶格,可能作为杂质在Bi2Se3表面析出。I掺杂Bi2Se3时,生成了复杂的化合物,制得样品主要为多晶块材。研究发现Fe掺杂样品具有与Bi2Se3相同的晶体结构；随着Fe含量的增加,晶格参数先减小后增大,这可能与少量的Fe能够插入QL之间有关。未退火的样品,在台阶和表面处有纳米形貌形成。随着Fe掺杂含量增加,纳米缺陷的密度变大和缺陷形貌改变,这些规律的纳米缺陷可能与自组装过程相似。经过EDX分析,发现缺陷区域内Fe含量远远大于正常区域内的Fe含量,纳米缺陷主要是Fe-Se化合物。经过长时间退后处理后纳米缺陷态消失,这可能与Fe原子扩散和Se空位消失有关。霍尔效应测试显示：退火后样品的载流子浓度下降一个数量级,并且ρ-T也明显偏离直线；随着Fe含量的增加,样品的电阻率也增大。低温时(T<30K),电子-电子散射作用占主导地位；在高Fe含量样品(x=0.1和x=0.15)中引入了Mott输运模式。Fe含量高的掺杂样品,ρ-T和MR-T曲线在30K附近出现翻转现象,这可能与电输运从体电导过渡到表面电导有关。Fe掺杂后导致复杂的MR-T行为,可能与声子散射、Fe离子导致的铁磁序、自旋无序散射作用相关。根据M-T结果,退火前的样品存在铁磁相变,转变温度为7K和114K,可能起源于FeSe化合物。退火后样品表现出顺磁性,可以用居里-外斯定律拟合。经计算Fe原子的自旋约为2.5,说明Fe在FexBi2-xSe3晶格中的价态主要为Fe3+价。在Fe0.15Bi1.85Se3样品中观察到强烈的SdH振荡,暗示Fe掺杂可能导致Fe0.15Bi1.85Se3的磁量子化作用变强。在Mn掺杂Bi2Se3单晶中,微观形貌变化很大,对其电输运性质影响较大。在Mn含量高的x=0.07和x=0.1样品出现明显的半导体转变,霍尔测试其为p型半导体。Mn含量较低的样品的电输运行为与纯Bi2Se3一致,都表现出相同磁电阻行为等。高含量样品的磁电阻行为明显不同,主要与样品中的散射机制和磁场对磁矩排列影响有关。具有钙钛矿结构的Lao.7Sro.3MnO3(LSMO)本身是一种强电子关联体系,其电子自旋作用在MR行为中扮演了重要的角色。通过将两者复合在一起可能会得到许多新奇物理现象。粘结剥离法研究结果表明：在Bi2Se3/(7%、10%、12%)硅橡胶粘结LSMO的复合结构中,p-T和MR-T曲线都在高温温区保留了LSMO本征峰的特征。这种复合结构的电阻率由LSMO和Bi2Se3共同决定,前者主要在高温部分起主导地位,后者主要在低温部分起作用。硅橡胶会降低颗粒间的传导性,并形成新的人工晶界,使得整个体系的磁无序增加,从而表现出复杂的输运性质。Bi2Se3/2%环氧树脂粘结LSMO复合结构表现出金属导电特征；外加磁场后,p-T曲线趋势改变,可能与LSMO的磁畴从新排列有关。在环氧树脂含量高的复合结构中,加场前后都仅观察到Bi2Se3的输运行为,LSMO对Bi2Se3的调制作用下降,说明过多的高分子包覆LSMO晶粒抑制了其自旋极化作用和双交换机制。