ZnO是一种非常重要的宽禁带(禁带宽度为3.37eV)半导体材料，其室温激子结合能高达60meV，在下一代蓝紫光发光二极管、激光器等短波长光电器件方面具有巨大的潜在应用价值，因此成为研究者们广泛研究的对象。然而，到目前为止，实验室始终无法获得可靠实用的p型ZnO薄膜，极大地限制了ZnO在光电子器件方面的发展和应用。虽然有很多研究组报道过利用Li、N、P、As、Sb等元素掺杂获得p型ZnO薄膜的结果，但是这些样品稳定性不够，且很难重复。这是因为目前对于ZnO材料中的缺陷以及缺陷对掺杂效果的补偿机制研究还很少，如Li掺杂引起的Li间隙位、本征缺陷Zn间隙位或者O空位等都会导致ZnO出现很强的自补偿效应，而这种强烈的自补偿效应正是导致ZnO的p型掺杂十分困难的原因。因此，澄清ZnO掺杂过程中各种杂质所产生的自补偿缺陷对于该方向研究工作的继续开展十分重要。本论文中，针对上述前沿问题，我们利用射频等离子体辅助分子束外延系统(rf-MBE)，结合反射式高能电子衍射(RHEED)、X射线衍射(XRD)、二次离子质谱(SIMS)、光致发光谱(PL)、拉曼散射光谱(Raman spectra)、卢瑟福背散射谱(RBS)、霍尔效应测试(Halleffect)、正电子湮灭谱(PAS)等表征测试手段，在蓝宝石绝缘衬底上制备了ZnO单晶外延薄膜，并对其展开了原位Na-H共掺杂、Sb离子注入掺杂及Sb原位掺杂等实验工作，系统研究了微结构以及自补偿机理，获得了非常有科学意义的实验结果。　　 通过射频等离子体辅助分子束外延法首次制备了Na-H原位共掺的ZnO外延薄膜，并利用SIMS、PL和霍尔效应测试等手段对Na和H在共掺薄膜中的掺杂行为进行了系统的研究。实验结果表明，退火后由于H从ZnO薄膜中扩散出来，共掺的样品从n型导电转变成弱p型导电。H元素在Na-H共掺样品导电类型的转变上起着至关重要的作用。Na填隙原子容易导致强烈的自补偿现象，使得Na掺杂很难获得高载流子浓度的p型ZnO薄膜。　　 通过后退火工艺，利用拉曼散射光谱、电学测试和PL等测试手段，研究了Sb离子注入的ZnO单晶外延薄膜中Sb的复合缺陷和Zn填隙原子的相互作用。实验结果表明，Sb离子的注入以及SbZn-2VZn复合缺陷受主的形成，对Zn的亚晶格造成了严重的影响，产生了大量的Zn填隙原子。拉曼光谱中的510cm-1振动模式是由于缺陷Zni-Oi的出现而导致的，与电学测试及PL的结果十分符合。Zn填隙原子是Sb离子注入掺杂的ZnO中主要的补偿施主，因而很难通过这种方法获得p型ZnO薄膜。　　 通过MBE方法成功获得了不同浓度的Sb原位掺杂的ZnO外延薄膜，通过XRD及EDX验证了其单晶特性以及掺杂的均匀性。结合XPS测试及RBS沟道效应谱，我们首次在实验上证实了Sb在ZnO外延薄膜中占据Zn的位置。结合PL及Raman光谱，我们澄清了Sb掺杂的自补偿行为：低掺杂时自补偿施主主要为Zni，高掺杂时自补偿施主主要为Vo。Sb掺杂量过高时，容易出现合金现象，使得Sb同时替代两个相邻的Zn原子，形成Sb-O-Sb的结构，在拉曼光谱中主要表现为710cm-1左右的振动模式。