GaN材料因其宽禁带、高击穿场强、高电子饱和速度、耐高温、抗辐照等特性,并且可通过极化效应形成二维电子气（2DEG）,基于GaN异质结材料的高电子迁移率晶体管（HEMT）被广泛应用于高效电力电子器件和高频微波功率器件等领域。由于自支撑GaN衬底价格昂贵且大尺寸衬底缺少,目前商用的GaN HEMT器件大多在硅（Si）和碳化硅（Si C）等衬底上异质外延得到。异质外延引起的晶格失配和热膨胀系数失配导致外延材料中存在高密度位错缺陷,会恶化2DEG输运特性,增加器件的电流泄漏,显著降低击穿电压。近五年来,随着自支撑GaN衬底制备工艺的发展,低位错密度、大尺寸、半绝缘自支撑GaN衬底逐渐走向商业化,因此GaN异质结材料同质外延技术受到越来越多的关注。其中,分子束外延技术（MBE）具有生长速率慢、生长温度低、外延材料杂质浓度低、可在线监测的优点,能实现材料厚度的原子级调控,获得更加陡峭突变的异质结界面,在超薄势垒高铝组分异质结构和精细量子阱材料生长方面优势明显,适合氮化物半导体毫米波器件及太赫兹器件的生长制备。因此,本论文重点研究了Al GaN/GaN异质结材料的MBE同质外延生长机理和材料性能,包括GaN材料同质外延、Al GaN材料同质外延、MBE二次同质外延界面杂质去除方法、GaN同质外延材料n型掺杂、Al GaN/GaN异质结同质外延等。本论文的主要研究内容和成果如下:1.通过Ga/N比和生长温度的优化,确定了GaN材料MBE生长的最优参数窗口,分析了Ga/N比和生长温度对GaN材料性能的影响机制。在表面可观察到镓滴的临界态时,可实现最优台阶流形貌和最低位错密度的GaN材料。通过调控Si源炉温度,实现了n型GaN材料Si掺杂,Si掺杂浓度在10¹⁷cm^-3～10²⁰ cm^-3范围内可控,且与Si源温度呈指数关系。2.通过AlN/GaN超晶格结构周期厚度和结构优化,实现了高铝组分Al GaN数字合金材料生长,材料表面台阶形貌明显且无裂纹。而连续法生长条件下,富镓生长条件有利于获得表面形貌光滑的Al GaN材料,且镓源和氮源固定时Al GaN材料铝组分由铝束流控制,但随着铝组分增加,材料表面形貌急剧恶化。3.通过衬底表面处理工艺和AlN隔离层结构,实现了高电子迁移率Al GaN/GaN异质结同质外延。通过镓原子清洗和等离子体氮化组合工艺使同质外延界面C和O杂质浓度降低至10¹⁷cm^-3量级,采用1.5 nm的富氮模式生长的AlN隔离层有效隔离了二次外延界面Si杂质引起的寄生漏电。在掺Fe半绝缘GaN基板上获得了室温下电子迁移率为1552 cm²/Vs和电子面密度为1.1×10¹³ cm^-2的AlGaN/GaN异质结材料。