铌酸锂（LiNbO₃）晶体具有较高的非线性光学系数以及较宽的光透射范围,在电光调制器、光限制器及集成光学器件等中可作为理想的光学元件。但该晶体的光损伤阈值较低,限制了其应用。由于金属纳米颗粒具有较大的三阶非线性光学系数及较快的光响应,结合金属纳米颗粒与LiNbO₃晶体的研究是增强其非线性光学效应的有效途径。本论文采用金属离子注入LiNbO₃晶体合成了不同形态的金属纳米颗粒,并对其纳米颗粒的合成、微观结构、光学性质等进行了相应的理论和实验研究。主要研究内容及结果如下:（1）采用100 keV的Cu离子和70 keV的Zn离子单独和顺序注入Z切LiNbO₃晶体,Cu离子的剂量为5×10¹⁶/cm²,Zn离子的剂量分别为3×10¹⁶和5×10¹⁶/cm²。借助后续退火及多种表征手段详细探究了纳米颗粒的微观结构、光学性质及其热演变规律等。UV-Vis吸收谱表明单Cu注入样品在614nm处表现明显的吸收峰,通过TEM观测到Cu纳米颗粒形成。Cu、Zn顺序注入样品的表面等离子共振（SPR）吸收峰表现近40 nm的蓝移,相应的TEM观测表明Cu Zn合金纳米颗粒形成。后续退火中,Cu注入样品表现较弱的热稳定性,300℃退火后Cu纳米颗粒分解、SPR峰消失;而对于Cu和Zn顺序注入样品,300℃退火后,其吸收峰红移至Cu纳米颗粒的SPR峰位处,TEM结果表明Cu Zn合金纳米颗粒发生去合金化,Cu纳米颗粒形成并在随后的400℃退火后分解。Z扫描结果表明,纳米复合材料具有比未注入LiNbO₃晶体高4个数量级的三阶非线性极化率,并且相对于单Cu纳米颗粒,Cu Zn合金纳米颗粒的非线性光学增强效应更显著。另外,纳米复合材料具有较强的非线性饱和吸收特性,这有助于拓宽LiNbO₃晶体材料的应用。（2）采用70 keV Zn和60 keV Cu单独和顺序注入Z切LiNbO₃晶体中,剂量同为5×10¹⁶/cm²,详细探究了Zn预注入对后续Cu纳米颗粒的结构、热稳定性及光学性质的影响。结果表明,单Cu注入样品在626 nm处出现明显的SPR吸收峰,而Zn预注入导致样品的SPR峰蓝移,在592 nm处呈现增强的SPR吸收峰。TEM结果表明该注入样品中形成了Cu Zn/Cu核/壳结构的纳米颗粒。两种样品在后续退火中表现不同的热演变规律:Cu注入样品在250℃退火后吸收峰消失,而Zn预注入样品随着退火温度的升高SPR峰逐渐红移,在300℃退火后仍能保持较强的SPR吸收峰,其内在机制是Zn预注入可抑制Cu注入子的溅射损失、使其纳米颗粒的体积分数增加,还能够起到保护作用、较大程度地提高Cu纳米颗粒的热稳定性。Z扫描结果表明Zn预注入样品表现增强的三阶非线性光学效应,能够较大地提高LiNbO₃晶体材料的非线性光学性能。