随着半导体电子集成器件的尺寸逐渐逼近量子遂穿的极限,摩尔定律正面临着极大的挑战。近几十年来,光子学器件由于相比于传统电子学器件拥有更加稳定、更加快速、更加低能耗等众多优点逐渐被研究人员所重视。未来若需要继续维持芯片发展速度的摩尔定律,器件的研究由电子学转为光子学是十分必要的。现在,硅基光子学技术,借助硅材料极大的元素储量导致的廉价成本以及与现代微电子加工技术的完美兼容和良好的光电混合集成特性,正逐渐实现大规模的商业化应用,是目前国内外最重要的前沿研究领域之一。由于体材料硅本身间接带隙的限制,使得其无法被直接用来设计制备光发射或是吸收器件。然而利用硅基材料尺寸减小到纳米量级时产生的量子限制效应以及光吸收/发射时不再需要完美遵循动量守恒定律的特点,我们即可以填补这一缺陷。目前对于纳米量级硅材料的光学性质已有了一部分的研究,然而对于氢化纳米硅非线性光学方面的了解还十分欠缺。这一方面性质在光子学器件中也很重要,若是能够对其进行控制,则可以制备各种非线性光学元器件;相反,若是对其毫无了解,则可能由于例如自聚焦等非线性效应造成破坏。本论文主要对于以下几点进行了较为详细的研究:(1)利用等离子体增强气相化学沉积法,控制氢稀释比、射频电源功率、沉积温度等条件制备了一系列不同禁带宽度的氢化纳米硅薄膜样品。(2)利用开孔z扫描实验方法测量了氢化纳米硅薄膜的非线性光吸收系数。(3)利用闭孔z扫描实验方法测量了氢化纳米硅薄膜的非线性折射率。(4)采用飞秒激光对于样品进行微米尺度的激光诱导晶化,并利用开孔z扫描手段研究晶化后样品产生的奇特非线性光吸收现象。氢化纳米硅的结构为硅纳米晶体镶嵌于无序的非晶硅网格之中,它可以由等离子体增强气相化学沉积法进行廉价并且大规模的生长,故可以集成至绝大多数的光电子学器件之中。之前对于氢化纳米硅的研究多数集中于量子限制效应,电子学性质和线性光学性质,其非线性光学性质,尤其是例如全光开关等光子学器件的研究还较少。本文利用z扫描方法对于其非线性光学性质进行了详细的研究,我们发现,氢化纳米硅薄膜的非线性光吸收性质可以分别由入射激光的波长、强度以及样品的禁带宽度独立进行灵敏的由饱和吸收至反饱和吸收的调节。我们利用修正了的三阶非线性光吸收微分方程对于实验数据进行了完美的拟合,并从样品所拥有的带尾态这一独特能带结构对于这种调制现象进行了解释。另一方面,由于硅材料中非常明显的载流子色散效应,导致吸收了光子之后跃迁至带尾态以及导带中更高能态的电子会对于材料的折射率产生重大影响。我们可以通过调节入射光的波长,将样品的非线性折射率在饱和型折射和克尔型折射之间灵敏调节。之后我们进一步建立模型定量研究了各个波长之下两种非线性折射机制的大小。由于我们可以通过入射光波长、强度以及样品的禁带宽度来灵敏调节氢化纳米硅材料的非线性吸收系数和非线性折射率,为利用其制备非线性光学元器件打下了良好的理论基础。在进行开孔Z扫描实验的过程中,我们发现当入射光强度超过一定的阈值之后,样品的非线性吸收性质将会发生一个不可逆的突变,吸收率将会增大700%以上,并且不再随入射光波长和强度的改变而改变。我们对于吸收突变后的样品进行了详细的物性分析,发现激光照射区域发生了微米尺度的激光诱导晶化。我们利用晶化后样品吸收系数的改变提出了空间渐变吸收理论,完美的解释了我们所观察到的现象。这一现象对于设计新型弱光非线性器件有着一定的帮助。最后我们利用这一效应制备了一种新型光限幅器件,并对于其性能进行了测试。