拓扑绝缘体是近年来新发现的一种绝缘物质相，具有和常规绝缘体拓扑不等价的绝缘的能带结构。拓扑绝缘体最主要的特点就是其体态绝缘，表面存在着时间反演对称性保护的独特的无能隙的金属性表面态。这种新的拓扑绝缘体相为人们展现出了许多新兴的研究方向，比如粒子物理学家关注的拓扑绝缘体内部可能产生非零的类轴子耦合，从而出现类似磁单极子的行为。同时，这种表面电子态与其他材料的界面处也会产生一些有趣的现象。比如在表面沉积超导体会由于超导近邻效应产生一种新的超导态，而在这种超导态中可能存在满足非阿贝尔统计规律的Majorana费米子，在量子计算方面有极大的应用潜力。然而，由于样品合成过程中不可避免的掺杂导致的体态电子贡献，以及暴露在空气中形成的表面氧化层导致的能带弯曲，如何在输运实验中排除干扰得到干净的表面态信号依然是一个巨大的挑战。人们对这一新奇量子态的认识还并不清楚。　　本文介绍了对三维拓扑绝缘体材料Bi2Se3纳米结构的合成和物性研究，主要内容包括:(1)利用CVD方法合成三维拓扑绝缘体Bi2Se3纳米结构，以及利用HRTEM、XRD、XPS和STEM等多种手段对Bi2Se3纳米结构进行了系统的表征;(2)实验测量和理论分析了Bi2Se3纳米结构的降温曲线、磁阻、霍尔迁移率、载流子浓度、SdH振荡、普适电导涨落和反弱局域化等电磁输运性质及热电性质;(3)研究室温下Bi2Se3纳米结构表面态对极化光的响应;(4)制备了石墨烯/硒化铋垂直结构以研究界面处的输运性质和石墨烯基的二维拓扑绝缘体性质。取得了以下研究成果:　　1.详细研究了简单的CVD方法合成Bi2Se3纳米结构的生长条件，在不同的生长距离和温度下得到了多种不同形貌的Bi2Se3纳米结构。利用多种表征手段对Bi2Se3纳米结构的晶体质量进行了系统的表征。针对生长过程中获得的各种不同形貌的Bi2Se3纳米结构，给出了简单的生长机制的分析。　　2.制备四电极和Hall结构测试了Bi2Se3纳米线和纳米片的低温输运性质。样品表现出了很高的迁移率（约10000cm2/V·s），以及大的磁阻（约400％）。除了普适电导涨落和反弱局域化，样品的上下表面和侧面都展示出了清晰的来自表面态的Shubnikov-de Haas(SdH)振荡行为。　　3.室温下观测到了拓扑绝缘体表面态对极化光的响应。由于自旋动量锁定，左旋和右旋的圆偏振光会选择性的激发某种自旋方向的电子，使得拓扑绝缘体表面态电子的净自旋流转变为净电流从而被探测到。且Bi2Se3纳米结构表现出不同于块材的低温热电性质。高速无能耗的表面态电子对热电性质的具体贡献还有待确定。　　4.在石墨烯/硒化铋垂直结构中观测到了弱局域化、反弱局域化、非对称性磁阻和可重复的周期性振荡行为。石墨烯不仅可以作为透明电极来研究硒化铋c轴方向的量子输运，也可以通过近邻效应利用硒化铋中的强自旋轨道耦合增强自身的自旋轨道耦合，从而实现石墨烯基的二维拓扑绝缘体。