GaN外延材料具有大禁带宽度、高电子迁移率、高击穿场强、高热导率以及高饱和速度等优异特性,广泛地应用于制备固态光源、光电探测器、5G/6G芯片、毫米波与太赫兹等领域。由于GaN基材料与Si衬底之间较大的失配应力限制硅基GaN材料及器件性能的提高;为提高GaN基HEMT器件的工作频率通常会直接缩短栅极长度,但可能引入严重的短沟道效应等阻碍器件频率特性的进一步提高。本文主要围绕上述问题展开,采用Silvaco Atlas仿真和MOCVD外延生长研究和讨论,主要的研究内容如下:本文首先在Silvaco Atlas软件中进行仿真,采用新型AlInGaN四元合金材料替代常规AlGaN/GaN HMT中AlGaN势垒层（20 nm）,同时减薄势垒层厚度（10 nm）来缩短栅电极到导电沟道的距离,有效缓解栅长缩短引入的短沟道效应,并实现与AlGaN/GaN HEMT（20 nm）相当的饱和输出电流密度(IDS)。其次,在新型AlInGaN/GaN HEMT结构基础上,采用InGaN材料替代常规GaN沟道层以增强载流子限域性,进一步缓解器件中严重的短沟道效应和电流崩塌效应。在栅长（Lg）为0.1μm,AlInGaN/InGaN HEMT实现最大截止频率（f T）和最高振荡频率(fmax)为133 GHz和226 GHz,相比AlInGaN/GaN HEMT提高27.88%和35.33%,同时实现更高的IDS（1599m A/mm）,提高57.8%。针对GaN材料较差的晶体质量,本文在Si衬底与GaN之间同时引入Al N成核层和AlGaN缓冲层来缓解二者之间较大的失配应力。其次,对GaN外延层的厚度进行优化,发现GaN外延层生长时间为25 min（厚度约为1000 nm）时实现较好表面形貌和晶体质量,获得5μm×5μm区域内的表面均方根（RMS）粗糙度低至0.325 nm,（002）面和（102）面半峰宽（FWHM）为576.8 arcsec和894.8 arcsec。最后,基于高质量GaN材料生长AlGaN/GaN HEMT外延结构,并对AlGaN势垒层的Al组分和厚度进行优化,发现二者约为25.1%和20 nm时,实现二维电子气（2DEG）面密度和迁移率高达1.239×1013 cm-2和1832.91 cm~2/Vs,方块电阻低至296.2Ω/sq。