氮化镓（GaN）作为第三代半导体的代表,凭借其高电流密度,低导通电阻低损耗,可以在高温高压下工作等特点,在通讯、新能源、节能照明、生物医药、高功率器件和众多交叉新兴领域都有着广泛的应用和广阔的发展前景。然而因为GaN目前主要是由异质外延获得,异质衬底使得GaN的位错密度无法得到进一步的降低,限制了 GaN的晶体质量,GaN器件的性能也受到了严重影响。而因为GaN具有较强的侧向生长能力,侧向外延技术（ELOG）逐渐成为一种在GaN生长过程中可以有效降低GaN位错密度的方法。在这种生长方法中,掩膜是提高侧向外延GaN质量的一个关键。除了掩膜的宽度、占空比等是提高侧向外延GaN质量的重要影响因素外,随着石墨烯等一系列二维材料的出现,制作掩膜的材料也成为可以优化侧向外延技术的研究方向。本论文一方面将二维材料石墨烯作为掩膜层侧向外延GaN,研究了二维材料石墨烯掩膜法侧向外延GaN的机理和独特优势,另一方面探究了使用宽周期的二氧化硅（SiO2）掩膜直接侧向外延生长自支撑GaN的可能性。本论文采用了等离子体增强化学气相沉积（PECVD）法在蓝宝石/GaN复合衬底上制备了约3nm厚的石墨烯,经改良的光刻-刻蚀工艺将石墨烯制备成掩膜,并通过调控生长参数利用金属有机物化学气相沉积（MOCVD）两步法侧向外延获得了厚度约为18.7 μm的GaN薄膜。在上述生长过程中,我们实现了一种自消失的石墨烯掩膜生长法。石墨烯掩膜随着高温下GaN衬底的分解而消失,没有残留在生长完成后的GaN薄膜中,但掩膜的消失并没有影响GaN的侧向外延生长模式。通过这种方法得到的GaN衬底的位错密度降低了一个数量级,达到107 cm-2,应力也相较于衬底下降了 0.182 GPa。本论文同时结合有限元分析,验证了自消失石墨烯掩膜对于降低应力的效果。除此以外,本论文还采用了磁控溅射的方法在蓝宝石/GaN复合衬底上制备了约80 nm厚的SiO2薄膜,使用相应的光刻-刻蚀工艺方法将其制备成高掩膜宽度的宽周期掩膜（窗口宽度20μm/掩膜宽度280μm）,并通过氢化物气相外延（HVPE）侧向外延获得厚度约为325 μm的GaN厚膜。结合二维Wulff结构图分析了宽周期的SiO2掩膜生长GaN的生长趋势,并探究了通过宽周期掩膜制备自支撑GaN的方法。