半导体硅基材料是电子技术、信息技术领域最为重要的基础材料之一。近年来,研究和开发以硅为基质材料的光子器件乃至实现光电集成(OEIC)已成为半导体光电子学领域需攻克的重大课题。在众多的硅基材料中,氮化硅作为一种典型的硅基材料,已作为钝化层和电绝缘层广泛应用在硅器件和集成电路方面。因此,硅基低维材料与氮化硅薄膜组成的复合材料的制备及其光电性能的研究是硅基光电子领域中热门课题的重要组成部分。本文采用射频磁控反应溅射法结合热退火技术制备了纳米硅镶嵌氮化硅薄膜(nc-Si/SiNX),并对薄膜进行X射线能谱(EDS)、红外吸收光谱(IR)、X射线衍射(XRD)、扫描电镜(SEM)、原子力显微镜(AFM)及紫外—可见吸收光谱(UV-VIS)的测定,对薄膜进行了组分、键合状态、结构及光学带隙的表征。研究发现制备的相关工艺条件对薄膜的组分结构等特点产生重要影响。本论文研究测定了薄膜的光致发光特性。室温条件下,分别用265nm和510nm波长的光激发,得到在350～900nm范围内众多发光带,分别归结为氮化硅中缺陷和纳米硅颗粒的发光。归纳起来,其发光机制以能隙态模型和量子限制效应为主。采用皮秒激光运用单光束Z扫描技术开展了对该复合薄膜的非线性光学性质的研究。分别在中心波长1064nm和532nm的皮秒脉冲激光投射下,该复合薄膜的非线性光折射和光吸收都表现出较明显的特征,测得薄膜三阶非线性极化率的绝对值都是10-9esu量级,并将薄膜这种三阶光学非线性增强的原因归因于量子限域效应。首次报道了用沉积在硅衬底的纳米硅镶嵌氮化硅(nc-Si/SiNX)薄膜样品作为可饱和吸收体,在凹—平腔中实现了氙灯抽运Nd:YAG激光器的被动调Q运转,在抽运重复频率1Hz情况下获得脉宽最小可达19ns的调Q单脉冲输出。并且研究了该薄膜结构特性、激光器参数,如:抽运电压、腔长对调Q脉冲输出性能产生的影响。在此基础上,对实验现象产生的原因做了分析讨论。