层状硒化物（包括Bi₂Se₃、In₂Se₃、Sb₂Se₃、MoSe₂等）是一类非常重要的半导体材料,根据其能带结构和特性,它们已经在光电、热电、电化学、太阳能电池等方面得到了广泛的应用。而采用掺杂等技术手段还可以对其物性进行深入调控,更加拓展了该类材料的科学研究内涵以及应用领域范围。其中传统热电材料Bi₂Se₃被发现是具有较宽体能带隙的三维强拓扑绝缘体,它是最有可能实现拓扑绝缘体量子器件室温应用的基础材料。有研究表明当在Bi₂Se₃晶格中掺杂特定元素后所得固溶体材料将具有比Bi₂Se₃更大范围可控的体能隙和更可调控的化学势,甚至出现更加新奇的拓扑量子性质和更优的光电、热电性能,使其更加适用于量子和光、热电器件应用领域。因此本文将围绕Bi₂Se₃及其固溶体系的制备以及基础物性表征展开研究,着重研究了Bi₂Se₃的固溶体系的相控生长,并对所生长的薄膜材料进行性质表征。主要工作如下:（1）利用分子束外延技术在Si（111）衬底以及氟金云母衬底上制备了高质量的Bi₂Se₃以及其固溶体Bi₄Se₃单晶薄膜。在制备过程中研究了不同Se束流对所得薄膜结果的影响,确定了在Se:Bi的束流比约为1:1时可以生长出纯相且结晶质量最高的Bi₄Se₃薄膜,当Se:Bi的束流比值大于6时所生长的硒化铋均为Bi₂Se₃,而当Se:Bi束流比值在1与6之间将获得Bi₄Se₃-Bi₂Se₃赝二元连续固溶体薄膜。而在InP（111）B面利用同样的生长工艺却未能获得Bi₄Se₃薄膜。除此之外通过RHEED、STM、HRXRD、拉曼光谱对外延生长所获得的Bi₄Se₃薄膜进行了表面形貌以及晶体结构的表征。所制备的Bi₄Se₃薄膜结晶质量良好,表面光滑平整,并且没有杂相。通过拉曼光谱测试,发现在Bi₄Se₃-Bi₂Se₃赝二元固溶体中存在应变导致的成分与拉曼频移的非线性关系,随后又对Bi₄Se₃样品的电学以及热电性质进行了测量,其表现为P型电导,测得体载流子浓度为2.79×10²⁰cm³,体电阻率为7.25×10^-4Ω·cm,迁移率为3.09cm²·V¹·S¹,霍尔系数为2.24×10^-2m²·C^-1,面内Seebeck系数为52μV/K。（2）除此之外对固溶体系(Bi_1-xSb_x)₂Se₃进行了研究。本文研究了氟金云母衬底上(Bi_1-xSb_x)₂Se₃薄膜的分子束外延生长制备,在控制Bi源以及Se源束流不变的情况下改变Sb源的温度,生长了一系列x值不同厚度均为20nm的薄膜样品,并对其成分进行了标定。通过公式拟合得出在满足理想层状外延生长模式（layer-by-layer）时(Bi_1-xSb_x)₂Se₃固溶体薄膜生长过程中Bi与Sb的掺入率分别为75.38%和82.75%。利用RHEED、HRXRD、拉曼光谱对外延生长所得的(Bi_1-xSb_x)₂Se₃系列薄膜进行了表面形貌以及晶体结构的表征与分析。确定了在MBE非平衡生长条件下Sb在菱方相(Bi_1-xSb_x)₂Se₃薄膜中的最大固溶度为68%,而随着薄膜厚度的增加Sb的固溶度将逐渐趋于平衡固溶度（²4%）。除此之外对所生长的(Bi_1-xSb_x)₂Se₃薄膜进行了UV-Vis-NIR测试,发现随着Sb掺入量的增加(Bi_1-xSb_x)₂Se₃薄膜的透过率会随之增加,这可能是随着Sb掺入量的增加(Bi_1-xSb_x)₂Se₃薄膜自由载流子浓度降低的结果;研究也发现当x>0.53时菱方相(Bi_1-xSb_x)₂Se₃固溶体的吸收边在4.24μm处,说明在该x值范围内菱方相(Bi_1-xSb_x)₂Se₃固溶体的光学带隙与菱方相Bi₂Se₃接近。