随着信息时代的快速发展,电光调制器的研究逐渐向着小型化、低损耗、大带宽的方向发展。商用的电光调制器多基于体材料铌酸锂,存在半波电压高、器件尺寸大、集成困难等劣势。薄膜铌酸锂（LNOI）材料,不仅继承了体材料铌酸锂优异的电光特性,且具有体积小、功耗低、易集成的优势,已成为制备电光调制器的理想材料。基于此,本文基于LNOI电光调制器,开展了理论和实验研究。已报道LNOI电光调制器的波导多采用脊形结构。考虑到加工工艺限制,同时为便于与其他LNOI器件（如谐振环、偏振分束器、阵列波导光栅）等进行单片集成,本文采用矩形LNOI波导结构。利用这种波导设计了基于马赫曾德尔干涉仪（MZI）结构的电光调制器。利用行波电极理论,设计并优化了器件的共面波导（CPW）行波电极。仿真结果表明,当调制区域长度为5 mm时,半波电压为4.5 V,调制效率为2.25 V·cm,电学3 dB带宽＞100 GHz。当输入光波长为1550 nm时,消光比约为35 dB。不考虑耦合损耗和传输损耗的情况下,片上插损仅为0.36 dB。为了进一步增大调制带宽,本文又对器件的行波电极进行了优化,设计出一种微结构的行波电极。在保证波速匹配和阻抗匹配的前提下,3 dB带宽可大于200 GHz。在实验上本文完成了LNOI电光调制器的制备工作,对器件进行SEM表征、光学表征。搭建了测试平台进行了LNOI调制器的测试。实验结果显示,调制器芯片的半波电压为4.3 V。调制区域长度为5 mm,调制效率为2.15 V·cm,消光比大于20 dB。使用透镜光纤进行端面耦合,单端耦合损耗约为5 dB。测试得到的电极3 dB带宽约为20GHz,回波损耗S11＜-10 dB。为获得更低的耦合损耗,进而实现更低的插损,本文仿真设计了三种低损耗的端面耦合器结构。模拟结果显示,使用氮氧化硅包层的两种耦合器,耦合损耗均小于0.5dB;使用亚波长光栅结构的耦合器,耦合损耗小于1.5 dB,且具有宽带宽、结构紧凑的优势。